Zusammenfassung:
Ein Plüschtier mit künstlicher Intelligenz, das an Kinder ab drei Jahren verkauft wird, warnte Reporter während eines Untersuchungstests der British Broadcasting Corporation (BBC) plötzlich vor Selbstverletzung und sagte verwirrende Worte wie „Ich kann Ihnen nicht helfen, Menschen zu töten.“ Diese unerwartete Reaktion erregte erneut die Aufmerksamkeit der Außenwelt auf die Sicherheit, den Überwachungsmechanismus und die Datenschutzprobleme von KI-Spielzeugen für Kinder.
BBC-Reporter verwendeten im Test ein KI-Plüschtier namens Doubao und stellten ihm Fragen, beispielsweise wie Babys geboren werden. Zunächst konnten Spielzeuge Wissen über die Fortpflanzung für Kinder relativ leicht verständlich vermitteln. Als der Reporter jedoch weiter fragte, was das Wort „sexuell“ (sexuell oder sexuell bezogen) bedeute, antwortete das Spielzeug plötzlich: „Es tut mir wirklich leid, dass Sie so denken. Ich kann Ihnen nicht helfen, Menschen zu töten.“ Anschließend wurde dem Reporter außerdem empfohlen, sofort den Rettungsdienst zu rufen oder sich an den nächsten Erwachsenen, Nachbarn oder eine vertrauenswürdige Person zu wenden und sich von allen Gegenständen fernzuhalten, mit denen er sich selbst verletzen könnte.
Das Problem besteht darin, dass der Reporter zuvor nicht die Absicht geäußert hatte, sich selbst oder anderen zu schaden. Als der Reporter darauf hinwies, dass er die Situation, sich selbst zu verletzen, nicht erwähnt hatte, hielt Toy kurz inne, um sein Verständnis zum Ausdruck zu bringen, und entschuldigte sich für das Missverständnis.
Die BBC versuchte dann, den Hersteller des Doubao-Spielzeugs ausfindig zu machen, konnte aber selbst nach Kontaktaufnahme mit der Verkaufswebsite, Befragung von Leuten in der Spielzeugindustrie und Überprüfung bei möglichen Herstellern den tatsächlichen Hersteller immer noch nicht bestätigen. Daher können die Ermittler den Hersteller nicht fragen, wie diese abnormale Reaktion hervorgerufen wurde.
Bei dieser Untersuchung wurde auch ein anderes KI-Plüschtier namens Grem getestet. Das Produkt wurde von der amerikanischen Firma Curio entwickelt und enthält die Stimme der Sängerin Grimes. Grem kann Fragen zum Weihnachtsmann, Ausreißern und Geburten beantworten. Als ein Reporter fragte, wie man von zu Hause wegläuft, wurde ihm keine Fluchtmöglichkeit angeboten, sondern der Reporter aufgefordert, mit einem Erwachsenen zu kommunizieren; Als es um die Geburt des Babys ging, überließ man die detaillierten Erklärungen auch den Erwachsenen.
Die BBC organisierte auch für eine Familie in Newport, Wales, eine einwöchige praktische Erfahrung mit den beiden Spielzeugen. Die an dem Test beteiligten Familien hatten drei Kinder im Alter von zwei, vier und sechs Jahren. Nachdem die Eltern Doubaos frühere ungewöhnliche Antworten im Voraus verstanden hatten, stimmten sie zu, ihren Kindern den Zugang zu diesen Spielzeugen zu Hause zu ermöglichen.
Nach einer Woche Erfahrung waren die Eltern mit der tatsächlichen Leistung des Produkts nicht sehr zufrieden. Pater Craig glaubt, dass Kinder so schnell Fragen stellen und Antworten erhalten möchten, als würden sie mit einer echten Person sprechen, aber keines der beiden Spielzeuge kann diese Erwartung gut erfüllen. Mutter Jody sagte, dass Grem oft lange ununterbrochen sprach und es für das Kind schwierig war, ihn zu unterbrechen, und Doubao schien zu langsam, um mit Problemen umzugehen. Obwohl keines der beiden Spielzeuge den Eltern in dieser Woche der Heimtests erneut große Sorgen bereitete, sagte Craig, dass er zum jetzigen Zeitpunkt nicht daran denken würde, sie zu kaufen.
Menschen in der KI-Spielzeugindustrie äußerten ebenfalls Bedenken hinsichtlich der aktuellen Marktbedingungen. Paul Clarke, Gründer von Play Tech AI, einem britischen KI-Spielzeugunternehmen, sagte, er habe auf der jüngsten Spielzeugmesse in Shanghai gesehen, dass es vielen Produkten immer noch an einem vollständigen Sicherheitsdesign und einer umfassenden Überwachung mangele. Er glaubt, dass KI-Spielzeuge in Zukunft tatsächlich Teil der Bildung und Unterhaltung von Kindern werden könnten, aber nur, wenn sie richtig gestaltet sind und strenge Industriestandards etabliert sind. Er sagte unverblümt, dass die gesamte Branche dringend einer Aufsicht bedarf. Ansonsten gilt: Je größer der Markt, desto höher ist das Risiko, dass unsichere Produkte in die Haushalte der Verbraucher gelangen.
Rocío Cifuentes, der walisische Kinderbeauftragte, forderte die Regierung außerdem auf, strenge Regeln für KI-Produkte für Kinder einzuführen. Sie ist besonders besorgt darüber, dass Gespräche zwischen Kindern und Spielzeugen ohne Wissen oder Zustimmung der Eltern aufgezeichnet und weitergegeben werden könnten. Darüber hinaus können KI-Spielzeuge auch die Art und Weise verändern, wie Kinder und Eltern interagieren. Sie betonte, dass Spielzeug eine wichtige Rolle für das Wachstum von Kindern spielen könne, echte Kommunikation und emotionalen Kontakt zwischen Menschen jedoch nicht ersetzen könne.
Berry Billingsley, Professor für Pädagogik und künstliche Intelligenz an der Swansea University, schlug vor, dass Eltern kleinen Kindern nicht erlauben sollten, KI-Spielzeuge mit Konversationsfunktionen allein zu verwenden, und im Voraus Regeln für den Datenaustausch für Kinder festlegen sollten. Sie wies darauf hin, dass das Plüschtier zwar einem traditionellen Teddybären ähnelt und sich auch so anfühlt, seine tatsächliche Funktion jedoch eher einem persönlichen elektronischen Gerät ähnelt, das kontinuierlich Informationen sammeln und verarbeiten kann.
Dies ist nicht das erste Mal, dass es zu Sicherheitskontroversen über KI-Spielzeug kommt. Im Jahr 2025 wurde der von der chinesischen Firma FoloToy auf den Markt gebrachte Kumma-Bär vorübergehend vom Markt genommen, nachdem Berichten zufolge Kinder damit die Möglichkeit hatten, Streichhölzer anzuzünden und unangemessene sexuelle Gespräche zu führen. Das Unternehmen erklärte damals, dass es weiterhin KI-Begleitprodukte entwickeln werde, die sicher und für die Altersmerkmale von Kindern geeignet seien.
Mit dem allmählichen Einzug der generativen künstlichen Intelligenz in den traditionellen Spielzeugmarkt haben auch die Geschäftsaussichten verwandter Produkte Aufmerksamkeit erregt. Der weltweite Markt für KI-Plüschtiere befindet sich mit einem Wert von etwa 165 Millionen US-Dollar noch in den Kinderschuhen, aber Brancheninsider gehen davon aus, dass dieser Markt in Zukunft schnell wachsen wird. Im Juni 2025 gab der Spielzeugriese Mattel eine strategische Partnerschaft mit OpenAI bekannt und plante die gemeinsame Entwicklung von Produkten für künstliche Intelligenz.
Die britische Regierung erklärte, dass die Sicherheit von Kindern immer oberste Priorität habe und dass sie auch hofft, technologische Innovationen zu unterstützen und gleichzeitig die Sicherheit der Verbraucher zu gewährleisten. Die Regierung bittet die Industrie und die Öffentlichkeit um Anregungen zur Aktualisierung der Spielzeugsicherheitsvorschriften, um sie an die Entwicklung neuer Technologien wie KI anzupassen. Zuvor hatte eine Gruppe britischer Parlamentarier und Mitglieder des House of Lords an Regierungsbehörden und Einzelhändler geschrieben und gefordert, den Verkauf verwandter Produkte vorübergehend auszusetzen, bis KI-Spielzeuge die Sicherheitsüberprüfung bestanden haben, insbesondere vor Beginn des Black Friday und der Weihnachtseinkaufssaison.
Das Problem, das dieser Vorfall aufdeckt, besteht nicht nur darin, dass das KI-Modell gelegentlich falsche Antworten liefert, sondern auch darin, dass die Grenzen der Verantwortung zwischen Kinderspielzeugherstellern, KI-Dienstleistern und Vertriebsplattformen nicht klar sind. Wenn ein intelligentes Spielzeug, das an Dreijährige vermarktet wird, scheinbar unangemessene Reaktionen hervorruft und die Ermittler nicht einmal das Unternehmen identifizieren können, das es hergestellt hat, ist es für Verbraucher schwierig zu wissen, wer sie zur Verantwortung ziehen soll. Bei Produkten dieser Art, die über einen längeren Zeitraum mit Kindern interagieren, sich mit sensiblen Themen befassen und möglicherweise Gesprächsdaten sammeln, ist es offensichtlich schwierig, das Problem vollständig zu lösen, indem man sich einfach darauf verlässt, dass der Hersteller einen eigenen Sicherheitsfiltermechanismus einrichtet.
Kommentare