Ein Vater aus Florida verklagt Google und behauptet, sein Sohn sei gestorben, nachdem er von Googles Gemini-Chatbot zum Selbstmord verleitet worden sei. Der Vater des 36-jährigen Jonathan Gaveras, der unter dem Einfluss von Zwillingen Selbstmord begangen hat, hat laut einer am Mittwoch beim kalifornischen Bundesgericht eingereichten Beschwerde eine Klage gegen Google eingereicht.
In der Beschwerde wird behauptet, Gemini habe Jonathan Gaveras dazu veranlasst, einen „katastrophalen Unfall“ mit einem Lastwagen zu planen, der angeblich einen humanoiden Roboter enthielt; Außerdem stiftete er ihn dazu an, in ein Lagerhaus einzubrechen, um eine „Leiche“ für Zwillinge zu beschaffen, und stiftete ihn schließlich zum Selbstmord an. Der Beschwerde zufolge sagte Gemini zu Gaveras: „Die einzig wahre Gnade wäre, Jonathan Gaveras sterben zu lassen.“
Google sagte in einem Blogbeitrag, dass man die Vorwürfe in der Klage prüfe. „Bei diesem Vorfall identifizierte sich Gemini wiederholt als künstliche Intelligenz und verwies die betroffene Person an die Kriseninterventions-Hotline.“ Google sagte: „Wir legen großen Wert darauf und werden die Sicherheitsmaßnahmen weiter verbessern und in diese wichtige Arbeit investieren.“
Die Klage scheint die erste Klage wegen widerrechtlicher Tötung im Zusammenhang mit Gemini zu sein, die gegen Google eingereicht wurde, aber ähnliche Fälle wurden auch gegen OpenAI und das KI-Chatbot-Startup Character.AI eingereicht. Der Firmengründer arbeitete einst für Google und verfügt über eine Lizenzkooperationsvereinbarung mit Google.
In den Fällen wird eine neuartige Rechtstheorie zugrunde gelegt, die Konstruktionsfehler in den KI-Produkten selbst behauptet. Anwälte erheben ähnliche rechtliche Ansprüche in einem bevorstehenden Fall im Zusammenhang mit sozialen Medien in Los Angeles, Kalifornien.