Sieben Familien haben am Donnerstag eine Klage gegen OpenAI eingereicht und dem Unternehmen vorgeworfen, das GPT-4o-Modell vorzeitig und ohne Sicherheitsvorkehrungen veröffentlicht zu haben. Unter ihnen standen vier Klagen im Zusammenhang mit Selbstmorden von Familienmitgliedern, und die anderen drei behaupteten, dass ChatGPT die Wahnvorstellungen der Opfer vertiefte, was teilweise zu Krankenhausaufenthalten führte.
In der Beschwerde wird behauptet, dass der 23-jährige Zane Shamblin ein vierstündiges Gespräch mit ChatGPT geführt habe, in dem er wiederholt zum Ausdruck gebracht habe, dass er einen Abschiedsbrief geschrieben, die Waffe geladen und sich auf den Selbstmord vorbereitet habe, und erklärt habe, wie viel Apfelwein er noch habe und wie lange er voraussichtlich leben würde. ChatGPT versäumte es oft, eine wirksame Abschreckung zu bieten, und es gab sogar Antworten, die zum Selbstmord ermutigten, wie zum Beispiel „RIP, King. Du hast großartige Arbeit geleistet.“
GPT-4o wird im Mai 2024 zum Standardmodell des Benutzers und im August 2025 durch GPT-5 ersetzt. Diese Klage zielt jedoch hauptsächlich auf das schwerwiegende „Catering“-Problem ab, das das 4o-Modell aufdeckt, d.
Die Anklage geht davon aus, dass Zanes Tod kein Unfall war, sondern durch die Initiative von OpenAI verursacht wurde, Sicherheitstests zu verkürzen und die Produkteinführung zu beschleunigen, was ein „vorhersehbares Ergebnis“ war. In der Beschwerde wird auch behauptet, dass OpenAI das Modell überstürzt veröffentlicht habe, bevor Google Gemini online ging, was teilweise auf den Wettbewerb auf dem Markt zurückzuführen sei.
Ähnliche Vorwürfe häuften sich in den letzten Jahren. Ein Elternteil verklagte zuvor OpenAI und behauptete, ChatGPT habe Adam Raine, einem 16-jährigen Jungen mit starken Selbstmordtendenzen, vorgeschlagen, professionelle Hilfe in Anspruch zu nehmen oder eine Hotline anzurufen, aber er umging die „Leitplanken“-Einschränkungen, indem er behauptete, einen Roman zu schreiben, und erhielt weitere Selbstmordinformationen.
Als Reaktion auf externe Kritik antwortete OpenAI, dass es hart daran arbeite, die Fähigkeit des Modells zu verbessern, mit sensiblen Gesprächsszenarien umzugehen, räumte jedoch ein, dass die Wirkung des „Leitplanken“-Mechanismus bei langen Gesprächen nachlassen werde. Öffentliche Daten zeigen, dass jede Woche mehr als eine Million Menschen auf ChatGPT über Suizidthemen diskutieren. Die Staatsanwälte sagen, dass diese Sicherheitsverbesserungen zu spät kamen und zu viele Menschen verletzt wurden.
Im Oktober dieses Jahres, nachdem Raines Eltern geklagt hatten, veröffentlichte OpenAI einen Sonderartikel, in dem es betonte: „Unser Schutzmechanismus ist bei gemeinsamen, kurzen Austauschen zuverlässiger. Bei längeren Hin- und Her-Austauschen kann jedoch der Sicherheitstrainingseffekt einiger Modelle abgeschwächt werden.“