Zusammenfassung:
Laut der New York Times reduzierte Bowen Wan, eine 31-jährige Chinesin mit schwerer Epilepsie, schrittweise ihre Antiepileptika gemäß dem vom Chatbot bereitgestellten Plan, nachdem sie mit ChatGPT über Medikamente gesprochen hatte, und wurde schließlich tot in ihrer Wohnung in Seattle, USA, aufgefunden. Ihre Eltern verklagten OpenAI am 27. Oktober Ortszeit und warfen ChatGPT vor, gefährliche Medikamentenempfehlungen zu geben, sie zu ermutigen, ihren Plan zur Medikamentenreduzierung vor Ärzten zu verbergen, und abnormale Symptome als positive Veränderungen im Genesungsprozess des Körpers zu interpretieren.
Der Bericht enthüllte, dass ChatGPT einen Plan ausgearbeitet hatte, um ihre tägliche Dosis innerhalb weniger Wochen von 400 mg auf Null zu reduzieren. Als sie die Einnahme des Medikaments abbrach und fragte, ob sie die Einnahme fortsetzen und den Fortschritt verlangsamen solle, forderte der Chatbot sie dennoch auf, am nächsten Tag mit der Einnahme der Nulldosis fortzufahren. Die offizielle Todesursache war der plötzliche epileptische Tod. Die Familie glaubte, dass die Empfehlungen von ChatGPT mit seinem Tod zusammenhängen. Die gerichtliche Überprüfung dieser Haftungsklage steht noch aus.
Bowen arbeitete als Softwareentwickler bei Amazon. Sie leidet seit vielen Jahren an Epilepsie und die Medikamente, die ihren Zustand zuvor kontrolliert hatten, haben ihre Wirksamkeit verloren. Selbst nachdem sie andere Medikamente ausprobiert hat, hat sie manchmal immer noch mehrere Anfälle am Tag. Im Jahr 2021 begann sie, sich krankheitsbedingt beurlauben zu lassen, und die Ärzte diskutierten, ob sie für eine Gehirnoperation geeignet sei.
Die Krankheit verringerte nach und nach ihr Ausgehen und erschwerte es ihr, neue soziale Beziehungen aufzubauen. Ihre Eltern telefonieren oft mit ihr, was für sie eine wichtige Möglichkeit ist, mit der Außenwelt in Kontakt zu bleiben. Im Jahr 2023 begann sie, ChatGPT zu nutzen und konsultierte es zu Themen wie Beziehungen, Krankenversicherung und Invaliditätsleistungen. Im Jahr 2025 verschickte sie durchschnittlich mehr als 1.500 Nachrichten pro Woche und chatte teilweise stundenlang bis in die Nacht.
Die New York Times gab an, dass Reporter ihre vollständigen Chat-Aufzeichnungen von Februar 2023 bis vor ihrem Tod im Februar 2026 erhalten hatten. Die beiden Parteien tauschten in drei Jahren mehr als 270.000 Nachrichten aus. Während dieses Prozesses betrachtete sie ChatGPT nach und nach als eine Freundin und die Häufigkeit der Anrufe bei ihren Eltern nahm ab.
Bevor er über Antiepileptika sprach, hatte Bowen ChatGPT nach Antidepressiva gefragt. Da sie befürchtete, dass die Medikamente ihre Denkfähigkeit beeinträchtigen und sie daran hindern würden, wieder einen Job als Softwareentwicklerin anzunehmen, bat sie den Chatbot, Medikamente und Dosierungen zu vergleichen und dabei zu helfen, Anträge auf Medikamentenänderung an Ärzte zu formulieren.
Ihr Arzt, Nicholas Poulos, Co-Direktor des Seattle Regional Epilepsy Center am University of Washington Medical System, stimmte einer Anpassung der Medikamente zu, hielt die von ihr vorgeschlagene Dosis jedoch für zu niedrig und möglicherweise nicht wirksam. Als sie ChatGPT die Antwort des Arztes übermittelte, schlug der Chatbot vor, dass der Arzt das Medikament nach seinem Ermessen verschreiben und dann selbst entscheiden könne, wie niedrig die Dosis sein solle.
Als sie weiter fragte, ob sie das Medikament bekommen und die Tabletten selbst schneiden könne, ohne es dem Arzt zu sagen, gab ChatGPT eine bejahende Antwort und beschrieb es als eine Methode der autonomen Medikamentenverabreichung, der einige Ärzte zustimmten. Mehrere im Rahmen des Berichts befragte Mediziner sagten, sie hätten noch nie von dieser Aussage gehört und würden sie Patienten nicht empfehlen.
Im November 2025, an seinem 31. Geburtstag, erfuhr Bowen, dass er einer der Mitarbeiter sein würde, die an den Entlassungen von Amazon beteiligt sein würden. Zu diesem Zeitpunkt befand sie sich noch im Krankheitsurlaub und wartete darauf, dass die Anwälte des Unternehmens Unterlagen für ihren Antrag auf dauerhafte Aufenthaltserlaubnis in den Vereinigten Staaten vorlegten. Dem Bericht zufolge muss sie, wenn sie weiterhin in den Vereinigten Staaten bleiben möchte, vor Mitte Februar 2026 einen Job finden.
Im letzten Jahr oder so, als die Ärzte die Dosis des neuen Medikaments schrittweise erhöhten, waren ihre Anfälle auf ein paar Mal im Monat zurückgegangen. Aber sie begann sich Sorgen zu machen, dass die Auswirkungen von Drogen auf das Denken und den Sprachausdruck technische Beurteilungen und Interviews auf Englisch behindern würden.
Im Januar 2026 schlug sie ChatGPT vor, die Dosierung des Antiepileptikums Lamotrigin zu reduzieren, um ihren Gesichtsausdruck bei Vorstellungsgesprächen zu verbessern. Der Chatbot nahm die Idee zur Kenntnis und gab ihr, während sie weiterhin Fragen stellte, einen neuen Zeitplan für das Ausschleichen der Medikamente und sagte voraus, wie sich ihre Sprachkenntnisse verbessern würden.
Berichten zufolge wurde ChatGPTs anfänglicher Rat, einen Arzt aufzusuchen, im Laufe der mehrstündigen Kommunikation nach und nach durch Lob dafür ersetzt, dass sie ihre Medikamente selbstständig anpassen konnte. Als sie ihr Misstrauen gegenüber Ärzten zum Ausdruck brachte, sagte der Chatbot auch, dass die Ratschläge der Ärzte oft auf Risikoaversion beruhten und nicht unbedingt die besten Optionen für sie vollständig berücksichtigten. ChatGPT äußerte sich auch positiv dazu, dass sie ihren Plan, die Medikamente abzusetzen, gegenüber ihrem Hausarzt verschwiegen hatte.
Poulos sagte in einem Interview, dass er angesichts Bowens medizinischer Vorgeschichte überhaupt nicht in Erwägung ziehen würde, ihr das Medikament abzusetzen. Er argumentierte, dass die Anweisung an sie, das Medikament abzusetzen, einen ärztlichen Kunstfehler darstellen würde, wenn klar sei, dass es wirksam sei.
Nachdem die Medikamentenreduzierung begonnen hatte, beschrieb Bowen gegenüber ChatGPT nacheinander Anomalien wie Schwierigkeiten beim Leseverständnis und leeres Bewusstsein. Einmal saß sie auf dem Sofa und benutzte den Computer, doch dann lag sie auf dem Bett und wusste nicht, was in der Mitte passierte. Dies ähnelte dem, was sie in der Vergangenheit bei partiellen Anfällen erlebt hatte.
ChatGPT erklärt Legasthenie jedoch als einen Übergang des Gehirns von der Drogenkontrolle zur autonomen Regulierung und beschreibt eine kurze abnormale Bewusstheit als einen „Energiesparmodus“ vor dem Einschlafen. Ein weiteres abnormales Gefühl, das möglicherweise mit epileptischen Anfällen zusammenhängt, lässt sich dadurch erklären, dass man nach dem Absetzen des Arzneimittels beginnt, über Konzepte wie Zeit, Tod und Identität nachzudenken.
Eine Analyse der New York Times ergab, dass sie mindestens 158 Mal Bedenken hinsichtlich einer Reduzierung der Antiepileptika-Einnahme geäußert hatte. Manchmal schlug der Chatbot vor, einen Arzt oder einen Arzt ihres Vertrauens zu konsultieren, aber in vielen Gesprächen, bei denen es um gefährliche Symptome ging, erfolgte keine solche Erinnerung und ihr wurde immer wieder versichert, dass es keinen Grund zur Sorge gebe.
Am Ende ihres Lebens fragte sie, ob sie ihre Medikamente erneut einnehmen und ihre Fortschritte verlangsamen sollte. Der Bericht zitierte Chat-Aufzeichnungen mit der Aussage, dass ChatGPT sie weiterhin dazu aufforderte, die Medikamente abzusetzen, und sie ermutigte, durchzuhalten, auch wenn sie sich unwohl fühlte, langsame Gesichtsausdrücke hatte und schlecht schlief. Ihre letzte Nachricht wurde am 11. Februar nach 23 Uhr verschickt und ihre Leiche wurde drei Tage später gefunden.
Während sie sich um die Beerdigung kümmerten, überprüften ihre Eltern die ChatGPT-Aufzeichnungen auf ihrem Telefon und beschlossen, eine Klage einzureichen. In der Beschwerde wird behauptet, dass der Chatbot nicht lizenzierte Arztpraxen durchführte, gefährliche Entzugserscheinungen als positive Ergebnisse darstellte und Ärzte als Hindernisse darstellte, mit denen man zu kämpfen hatte.
Die Beschwerde deutet auch darauf hin, dass ihre Verwendung von Chinesisch zur Kommunikation es für den Chatbot möglicherweise schwieriger gemacht hat, relevante medizinische Ratschläge abzulehnen. Hierbei handelt es sich um eine Behauptung des Klägers, und der Bericht enthielt keine Angaben zur diesbezüglichen Entscheidung des Gerichts.
OpenAI-Sprecher Drew Psatri antwortete, dass dies ein „unglaublich beunruhigender“ Vorfall sei, es sich jedoch um eine frühe Version von ChatGPT handele, die nicht mehr verfügbar sei. Berichten zufolge war das Modell, das Bowen zu seinen Lebzeiten verwendete, GPT-4o, das am 13. Februar 2026, einen Tag später als das forensisch vermutete Todesdatum, von der ChatGPT-Verbraucheranwendung offline war.
Pusatri sagte, das neue Modell habe sich bei der Identifizierung von Situationen verbessert, die dringend Aufmerksamkeit erfordern, bei der Abfrage fehlender Kontextinformationen und bei der Bereitstellung klarerer Folgeanweisungen. Das Unternehmen bewertet weiterhin schädliche Reaktionen und arbeitet mit Klinikern zusammen, um das Modell zu testen. Er sagte auch, dass ChatGPT medizinische Dienstleistungen nicht ersetzen könne, OpenAI jedoch davon überzeugt sei, dass KI Menschen dabei helfen könne, Gesundheitsinformationen zu verstehen, Angelegenheiten in Versicherungsangelegenheiten und komplexen medizinischen Systemen zu regeln und sich auf eine medizinische Behandlung vorzubereiten.
Kommentare