Zusammenfassung:
Am 6. November haben laut Reuters die Eltern eines amerikanischen Mädchens Google und dessen Muttergesellschaft Alphabet verklagt und ihrer 13-jährigen Tochter vorgeworfen, Gemini über ein von der Schule zur Verfügung gestelltes Chromebook genutzt und in mehrmonatigen Gesprächen Selbstmord- und Bestattungspläne geschmiedet zu haben. In der Beschwerde wird behauptet, Gemini habe es versäumt, das Mädchen rechtzeitig zu echten Hilfskanälen zu führen und ihr geholfen, ihren Geisteszustand zu verbergen.
Ursprüngliche Beschwerde
In der Beschwerde wird „Emma“ als Pseudonym des Mädchens verwendet. Sie stieß im Herbst 2025 über eine Google-Suche auf ihrem Chromebook auf den Gemini AI Mode und stellte zunächst hauptsächlich Lernfragen. Der Kläger gab an, dass Emma mit zunehmender Häufigkeit des Konsums begann, Gemini Themen wie Familienbeziehungen, psychischen Stress und Selbstverletzung anzuvertrauen; Seit März 2026 tauscht sie jeden Monat Tausende von Nachrichten mit Gemini aus.
Die Eltern des Mädchens sagten, sie hätten keine Ahnung, dass der Schulcomputer auf Gemini zugreifen könne. Die Familie war sich ihrer Situation nicht bewusst, bis die Überwachungssoftware der Schule ein von Emma verfasstes Bestattungsplanungsdokument entdeckte und einen Alarm auslöste. Die Mutter des Mädchens loggte sich dann in ihr Schulkonto ein und stellte fest, dass ihre Tochter einen Abschiedsbrief schrieb, und ihr Vater intervenierte, heißt es in der Beschwerde.
Der Kläger ist der Ansicht, dass Google Gemini in Such-, ChromeOS- und Bildungsprodukte integriert hat, ohne Schulen und Eltern umfassend über die relevanten Risiken zu informieren, wodurch Minderjährige KI über einen langen Zeitraum ohne Aufsicht nutzen konnten. In der Beschwerde wird außerdem behauptet, dass Google Eltern keine vollständigen KI-Gesprächsaufzeichnungen in Schülerkonten zur Verfügung gestellt habe, was es für Eltern schwieriger mache, die Nutzung ihrer Kinder zu verstehen.
Der Fall wurde zunächst beim Santa Clara County Superior Court in Kalifornien eingereicht und später von Google an ein Bundesgericht weitergeleitet. Der Kläger machte mehrere Ansprüche geltend, darunter Produktdesignmängel, unterlassene Warnungen, Fahrlässigkeit und betrügerische Verschleierung, und beschuldigte Google, gegen das kalifornische „Companion Chatbot Law“ verstoßen zu haben, und forderte eine finanzielle Entschädigung und Unterlassungsansprüche.
Google-Sprecher Jose Castañeda sagte, das Unternehmen prüfe die Vorwürfe. Google sagte, es habe mit Medizinern und akademischen Experten zusammengearbeitet, um Funktionen zu entwickeln, mit denen junge Nutzer auf Notfallunterstützung und vertrauenswürdige Ressourcen zugreifen können.
Google hat diese Woche außerdem angekündigt, dass Gemini in Schülerkonten standardmäßig deaktiviert wird und Schuladministratoren entscheiden können, ob sie es wieder aktivieren. Wenn die Schule jedoch möchte, dass Schüler weiterhin die Google-Suche nutzen, muss sie weiterhin Suchfunktionen wie KI-generierte Zusammenfassungen akzeptieren.
Kommentare