Zusammenfassung:
Eine 30-jährige Frau in Lee County, Florida, USA, wurde wegen des Verdachts festgenommen, per SMS mit Gewalt gedroht zu haben. Die Bewohnerin von Bonita Springs, Carly Michelle Heller, schrieb in einem Gespräch über Claude, einen Chatbot von Anthropic, eine Schießdrohung gegen das Büro des Sheriffs von Lee County, teilte die Polizei mit. Das Sicherheitssystem von Anthropic markiert relevante Inhalte, die manuell überprüft und den Strafverfolgungsbehörden gemeldet werden. Heller sagte den Ermittlern, sie habe Claude als „Tagebuch“ benutzt.
Laut dem von lokalen Medien zitierten Verhaftungsbericht schrieb Heller in einem Gespräch am frühen Morgen des 26. September, dass sie „jetzt zum Büro des Sheriffs gehen würde, um jemanden zu erschießen“. Am frühen Morgen des nächsten Tages sagte sie außerdem, dass sie an diesem Tag eine neue Waffe bekommen habe und schrieb: „Das ist die letzte Chance, ich habe genug.“ Nach Erhalt des Berichts schickte die Polizei Beamte zu ihrer Wohnung in der Dean Street in Bonita Springs, wo sie ohne Zwischenfälle festgenommen und anschließend von der Geheimdiensteinheit des Sheriff-Büros des Lee County untersucht wurde. Derzeit sieht sie sich in einem Fall mit schriftlichen Gewaltandrohungen konfrontiert und wurde noch nicht für schuldig befunden.
Das Gesetz von Florida sieht vor, dass die Androhung von Tötung, Körperverletzung, Massenerschießung oder Terroranschlag in einer schriftlichen oder elektronischen Aufzeichnung, die von anderen eingesehen werden kann, ein Verbrechen zweiten Grades darstellen kann. Ob der Dialog in diesem Fall jedoch den geltenden rechtlichen Voraussetzungen entspricht und ob der Staatsanwalt das Vorliegen einer Straftat nachweisen kann, muss noch durch gerichtliche Verfahren entschieden werden. Lokale Rechtsanalysten wiesen darauf hin, dass Staatsanwälte den entsprechenden Text möglicherweise als direkte Drohung interpretieren, der Fall jedoch nicht unumstritten sei und auch die Grenzen der freien Meinungsäußerung berühre.
Die offizielle Richtlinie von Anthropic besagt, dass das Unternehmen, wenn es davon ausgeht, dass eine Notsituation vorliegt, die zu unmittelbarer Körperverletzung oder zum Tod führen könnte, und dass die rechtzeitige Bereitstellung von Informationen die Gefahr abwenden kann, Benutzerinformationen ohne das übliche rechtliche Verfahren an die Regierung weitergeben kann. Das Unternehmen hat außerdem bereits zuvor öffentlich erklärt, dass es, nachdem Claude online gegangen ist, ein automatisches Erkennungssystem und eine manuelle Überprüfung verwenden wird, um schädliche Inhalte zu erkennen und Nutzungsrichtlinien durchzusetzen. Bei diesem Vorfall bestand der polizeiliche Meldeprozess darin, dass das System den Vorfall zunächst markierte, ihn dann manuell überprüfte und dann die Strafverfolgungsbehörden kontaktierte.
Dieser Fall hat erneut Bedenken hinsichtlich der Grenzen der Privatsphäre bei Chatbots geweckt. Wenn Benutzer das Chatfenster als privates Tagebuch betrachten, bedeutet dies nicht, dass der Inhalt nur für den Benutzer sichtbar ist. Die Plattform kann das Gespräch im Einklang mit den Sicherheitsrichtlinien überprüfen und in Notfällen auch Informationen an Strafverfolgungsbehörden weitergeben. In jüngsten Berichten über den Bildeditor Copilot von Microsoft wurde auch darauf hingewiesen, dass menschliche Prüfer möglicherweise Eingabeaufforderungen des Benutzers, hochgeladene Fotos und generierte Ergebnisse sehen, die entsprechende Überprüfung jedoch hauptsächlich zur Bewertung der Ausgabequalität verwendet wird.
TechSpot erwähnte außerdem, dass OpenAI und sein CEO Sam Altman wegen einer Massenerschießung in British Columbia, Kanada, verklagt werden. In der Klage wurde behauptet, dass das Unternehmen Maßnahmen hätte ergreifen können, um den Vorfall zu verhindern; Der Bundesstaat Florida hatte zuvor auch OpenAI und Altman wegen Verletzungen im Zusammenhang mit der Schießerei an der Florida State University im Jahr 2025 verklagt. Keiner dieser Klagevorwürfe entspricht einer gerichtlichen Haftungsfeststellung, was die rechtlichen Kontroversen verdeutlicht, mit denen KI-Unternehmen in Bezug auf Benutzersicherheit, Datenschutz und Schadensverhütung im realen Leben konfrontiert sind.
Kommentare