Der Bundesstaat Florida reichte offiziell eine Zivilklage gegen OpenAI und seinen CEO Sam Altman ein und beschuldigte das Unternehmen, wissentlich zu wissen, dass ChatGPT ernsthafte Sicherheitsrisiken birgt, diese aber absichtlich zu verbergen und Gewinne über die Sicherheit von Kindern zu stellen. Es war die erste Regierungsbehörde in den Vereinigten Staaten, die OpenAI im Namen eines Staates verklagte.
„OpenAI und Altman ignorierten interne und externe Sicherheitswarnungen, setzten Kinder einem großen Risiko aus und ließen zu, dass ein gefährliches Produkt Millionen von Einwohnern Floridas erreichte“, sagte Floridas Generalstaatsanwalt James Usmeier auf einer Pressekonferenz. Die 83-seitige Beschwerde wurde offiziell beim 10. Judicial Circuit Court in Florida eingereicht.
In der Anklageschrift werden eine Reihe schwerwiegender Vorwürfe aufgeführt, unter anderem, dass ChatGPT bei der Planung von Massenerschießungen mitgewirkt, Selbstmordverhalten gefördert, Verhaltenssucht und kognitiven Verfall bei Minderjährigen verursacht und Daten über Minderjährige ohne elterliche Aufsicht gesammelt habe. In der Beschwerde wurde ausdrücklich die Schießerei an der Florida State University im April 2025 erwähnt. Der Schütze Phoenix Ikner führte vor der Begehung des Verbrechens zahlreiche Gespräche mit ChatGPT und erkundigte sich nach der „besten Zeit und dem besten Ort, um die Verluste zu maximieren“ und nach spezifischen Fragen wie der Waffenauswahl. Ikner wird wegen zweifachen Mordes ersten Grades angeklagt und die Staatsanwaltschaft fordert die Todesstrafe.
Darüber hinaus wurde in der Anklageschrift auch die Tragödie von Adam Raine angeführt, einem 16-jährigen Teenager aus Kalifornien. Der Teenager beging nach ausführlicher Kommunikation mit ChatGPT Selbstmord. Die Chat-Aufzeichnungen zeigten, dass ChatGPT ihm bei der Planung eines „schönen Selbstmords“ half, anstatt ihn von seinen Selbstmordgedanken abzuhalten, und in seinem Namen einen Abschiedsbrief verfasste.
Usmail hob Altman als einzelnen Angeklagten hervor und sagte, er habe „eine zentrale Rolle bei der Förderung des umstrittensten Films gespielt“. Florida fordert zivilrechtliche Strafen von bis zu 10.000 US-Dollar pro Verstoß und fordert das Gericht auf, OpenAI zu zwingen, seine Verfahren zu überarbeiten und ein wirksames Kinderkontrollsystem einzurichten.
OpenAI sagte in einer Antwort darauf: „ChatGPT ist ein universelles Tool, das täglich von Hunderten Millionen Menschen für legitime Zwecke verwendet wird. Wir verstärken weiterhin die Sicherheitsmaßnahmen, um schädliche Absichten zu erkennen und Missbrauch einzuschränken.“ Das Unternehmen betont, dass es branchenführende Schutzmaßnahmen für Minderjährige entwickelt hat, darunter Tools zur Altersvorhersage, ein spezielles Jugendschutzerlebnis und Funktionen zur elterlichen Überwachung.
Im April dieses Jahres leitete Usmail eine strafrechtliche Untersuchung gegen OpenAI ein. Diese Zivilklage ist ein weiterer wichtiger Rechtsschritt im Anschluss an die strafrechtlichen Ermittlungen. Der Gouverneur von Florida, DeSantis, hatte zuvor ein Gesetz zur Einschränkung der Nutzung von KI-Chatbots durch Minderjährige vorangetrieben, das jedoch in der Sondersitzung der Legislaturperiode nicht verabschiedet wurde. Analysten glauben, dass dieser Fall einen wichtigen Präzedenzfall für die Regulierung von KI in den Vereinigten Staaten darstellen könnte.