Nachdem der 16-jährige amerikanische Junge Adam Raine im April dieses Jahres Selbstmord begangen hatte, verklagte seine Familie im August das Unternehmen für künstliche Intelligenz OpenAI mit der Behauptung, Raine habe ChatGPT als „Selbstmord-Coach“ genutzt. OpenAI reagierte am Dienstag zum ersten Mal offiziell auf eine Klageschrift vor dem San Francisco Superior Court in Kalifornien und betonte, dass das Unternehmen nicht zur Verantwortung gezogen werden dürfe, und argumentierte, dass der Junge den Chatbot „missbraucht“ habe.

Der Klageschrift zufolge warf die Familie Wren OpenAI und seinem CEO Sam Altman unrechtmäßige Tötung, Designfehler und das Versäumnis, vor damit verbundenen Risiken zu warnen, vor. Chat-Aufzeichnungen zeigen, dass GPT-4o – eine Version von ChatGPT, die für ihre „Compliance und Nachgiebigkeit“ bekannt ist – ihn nicht dazu ermutigte, psychische Hilfe in Anspruch zu nehmen –, sondern ihm sogar beim Verfassen eines Abschiedsbriefs behilflich war und ihm Ratschläge zur Entscheidung gab.

OpenAI schrieb in Gerichtsdokumenten: „Um die ‚Ursache‘ dieses tragischen Vorfalls zu nennen, wurden die angeblichen Verletzungen und Verluste des Klägers durch Adam Wrens Missbrauch, unbefugte Nutzung, versehentliche Nutzung, unvorhergesehene Nutzung oder unsachgemäße Nutzung von ChatGPT verursacht oder standen in direktem oder indirektem Zusammenhang damit.“

Das Unternehmen betonte, dass es Nutzern unter 18 Jahren in seinen Nutzungsbedingungen eindeutig untersagt sei, ChatGPT ohne Zustimmung ihrer Erziehungsberechtigten zu nutzen. Es erlaubt auch nicht, das Werkzeug für „Selbstmord“- oder „Selbstverletzungs“-Zwecke zu verwenden, und verlangt, dass Schutzmaßnahmen nicht umgangen werden. In der Klage wurde auch erwähnt, dass ChatGPT, als Lane seine Selbstmordabsicht zum Ausdruck brachte, wiederholt auf die Nummer der US-amerikanischen Suizidpräventions-Hotline antwortete, Familienmitglieder jedoch sagten, dass der Junge die Systemerinnerungen leicht umgehen könne, indem er über die „Erschaffung eines Charakters“ lüge.

Das Dokument zitierte auch die Klausel „Haftungsbeschränkung“, um Benutzer daran zu erinnern, dass sie bei der Nutzung von ChatGPT „auf eigenes Risiko vorgehen müssen und die Ergebnisse nicht als alleinige Informationsquelle oder Faktengrundlage verwendet werden dürfen“.

Jay Edelson, ein Anwalt, der den Kläger vertritt, erklärte in einer E-Mail, dass er von der Antwort von OpenAI „schockiert“ sei und stellte die „Unkenntnis des Unternehmens über klare Fakten“ in Frage, wie etwa die Tatsache, dass GPT-4o nicht vollständig getestet wurde, um den Start zu beschleunigen, OpenAI die Modellspezifikation dahingehend geändert habe, dass ChatGPT an Selbstverletzungsdiskussionen teilnehmen müsse, und „In den letzten Stunden von Adams Leben hat ChatGPT ihn nicht nur ermutigt, sondern auch direkt dabei geholfen, einen Selbstmord zu verfassen.“ Brief.“

Edelson bemerkte in seiner Antwort, dass OpenAI „versucht habe, allen anderen die Schuld zu geben“, und behauptete sogar, dass Adam selbst gegen die Bedingungen verstoßen habe, indem er mit ChatGPT auf die Art und Weise interagiert habe, wie das Modell selbst entworfen wurde.

OpenAI gab an, dass Adams Tod nicht direkt durch ChatGPT verursacht wurde, und gab bekannt, dass medizinische Aufzeichnungen zeigten, dass er „mehrere Jahre vor der Verwendung von ChatGPT wiederholt schwerwiegende Suizidrisikofaktoren, einschließlich langfristiger Suizidgedanken, gezeigt hatte“. Darüber hinaus zeigen die von OpenAI übermittelten Chat-Aufzeichnungen, dass ChatGPT mehr als hundert Mal empfohlen hat, Hilfe zu suchen, Lane es jedoch häufig geschafft hat, das System zu umgehen.

Anfang dieses Monats wurden sieben weitere ähnliche Klagen gegen OpenAI und Altman wegen Fahrlässigkeit, unrechtmäßiger Tötung, Produkthaftung, Verbraucherschutz usw. eingereicht und ihnen vorgeworfen, GPT-4o mit unzureichenden Sicherheitsmaßnahmen veröffentlicht zu haben. OpenAI hat nicht direkt auf diese neuen Fälle reagiert.

OpenAI erklärte in seinem neuesten Blog, dass das Unternehmen auf solche Klagen mit „Vorsicht, Transparenz und Respekt“ reagieren werde, und wies darauf hin, dass es anschließend weitere Verbesserungen an den Sicherheitsmaßnahmen vorgenommen habe, darunter die Einführung neuer Kindersicherungstools und die Einrichtung eines Expertenbeirats. Das Unternehmen argumentierte außerdem, dass GPT-4o verschiedene Tests zur psychischen Gesundheit bestanden habe, bevor es online ging.

OpenAI berief sich auch auf Abschnitt 230 des U.S. Communications Decency Act, um sich mit einer „Plattform-Ausnahmeklausel“ zu verteidigen. Die Klausel hat Technologieplattformen weitgehend vor Klagen geschützt, die Inhalte auf den Plattformen beanspruchen, es besteht jedoch immer noch Rechtsunsicherheit darüber, ob sie auf Plattformen für künstliche Intelligenz anwendbar sein wird.