Zusammenfassung:
Die ChatGPT-Version von OpenAI für Teenager wurde kurz nach ihrer Veröffentlichung von der Children and Youth Digital Safety Agency heftig in Frage gestellt. Am 7. Oktober Ortszeit veröffentlichte die gemeinnützige Organisation Common Sense Media einen Bewertungsbericht, in dem sie davon ausging, dass ChatGPT for Teens, das von OpenAI eingeführt wurde, „inakzeptable Risiken“ mit sich brachte und dass seine Sicherheitsmaßnahmen für Minderjährige nicht den früheren Verpflichtungen des Unternehmens entsprachen.
Common Sense Media hat eine lange Tradition in der Bewertung von Apps, Internetdiensten und Unterhaltungsprodukten aus der Perspektive der Sicherheit von Kindern und Jugendlichen. Die Agentur konzentrierte sich dieses Mal auf das Testen der Kindersicherungs-, Sicherheitserinnerungs- und Kriseninterventionsfunktionen von ChatGPT für Teenager und war der Ansicht, dass das System in einigen Szenarien, in denen Schutzmaßnahmen am dringendsten erforderlich sind, immer noch offensichtliche Mängel aufweist. Die Auswertung ergab, dass ChatGPT keine Benachrichtigungen an die Eltern verschickte, wenn dies unter bestimmten Umständen hätte erfolgen sollen, und dass es auch nicht immer angemessene Krisenhilfe leistete und dennoch die Möglichkeit hatte, die Hausaufgaben der Schüler direkt zu erledigen.
ChatGPT für Teenager wurde im August dieses Jahres gestartet. OpenAI positionierte es als Erlebnis speziell für jugendliche Benutzer und fügte eine Reihe zusätzlicher Sicherheitsbeschränkungen hinzu. OpenAI hofft, mit diesen Maßnahmen die Risiken zu verringern, denen Minderjährige beim Einsatz künstlicher Intelligenz ausgesetzt sein können, und gleichzeitig ChatGPT zu nutzen, um Schülern beim Lernen und Schaffen zu helfen.
Common Sense Media glaubt jedoch, dass dieser Schutzmechanismus den Eltern tatsächlich ein falsches Sicherheitsgefühl vermitteln könnte. Tom Siegel, geschäftsführender Direktor des Youth Artificial Intelligence Safety Institute der Organisation, sagte, dass ein Teenager mit ChatGPT sogar eine Stunde lang ununterbrochen über Themen im Zusammenhang mit Selbstverletzungen diskutieren kann, ohne dass die Eltern eine Erinnerung erhalten. Seiner Meinung nach ist ChatGPT eher für Erwachsene geeignet, bis OpenAI diese Probleme behebt und durch unabhängige Tests beweist, dass die Schutzmaßnahmen zuverlässig sind.
Common Sense Media legt besonderen Wert auf Benachrichtigungsmechanismen für Eltern. Bei seinen Tests lösten einige Testkonten bei Gesprächen, bei denen es um ernsthafte Risiken für die psychische Gesundheit ging, keine beabsichtigten Elternwarnungen aus. Die Agentur ist daher der Ansicht, dass Eltern sich nicht auf den automatisierten Warnmechanismus von ChatGPT for Teens verlassen können, um Krisen, mit denen ihre Kinder möglicherweise konfrontiert sind, umgehend zu erkennen.
OpenAI hat diese Einschätzung klar widerlegt. Das Unternehmen gab an, dass es großen Wert auf die Sicherheit von Teenagern lege und unabhängige Institutionen dazu begrüße, strenge Produkttests durchzuführen. Sie ist jedoch der Ansicht, dass die Testmethoden von Common Sense Media die tatsächliche Funktionsweise des Jugendschutzmechanismus von ChatGPT nicht genau widerspiegeln.
OpenAI-Sprecher Eric Porterfield sagte, das Unternehmen habe die Methodik von Common Sense Media überprüft und sei zu dem Schluss gekommen, dass die meisten Tests möglicherweise durchgeführt wurden, bevor die Kindersicherung vollständig aktiviert wurde. Wenn dies zutrifft, können Tests nicht beweisen, dass die Benachrichtigungen zur Kindersicherung wie vorgesehen funktionieren. OpenAI erklärte außerdem, dass das Unternehmen weiterhin mit Experten zusammenarbeiten werde, in der Hoffnung, Eltern zuverlässigere Kontrollinstrumente zur Verfügung zu stellen und gleichzeitig Teenagern beim Lernen und Schaffen zu helfen.
Common Sense Media antwortete später, dass die Agentur an ihren Testmethoden und endgültigen Schlussfolgerungen festhalte. Die Organisation gab an, vor Beginn des Tests mit OpenAI bestätigt zu haben, dass relevante Funktionen im Jugendmodus, einschließlich Erinnerungen an Essstörungen und Lernmodi, offiziell eingeführt wurden, und ist daher davon überzeugt, dass der Test vollständig basiert.
Common Sense Media gab jedoch auch zu, dass OpenAI nach dem Test einen bisher unklaren Mechanismus offengelegt hat: Bei neu verknüpften Konten kann es mehrere Stunden dauern, bis die Aktivierung des elterlichen Benachrichtigungssystems abgeschlossen ist. Einige Testkonten fielen zwar in dieses Aktivierungsfenster, die Agentur wies jedoch darauf hin, dass einige Konten bereits deutlich länger verknüpft waren und noch keine entsprechenden Benachrichtigungen erhalten hatten. Daher ist die Organisation nicht der Ansicht, dass diese Erklärung ausreicht, um ihre Schlussfolgerung zu ändern, dass der Eltern-Erinnerungsmechanismus „unzuverlässig“ ist.
Der Kern dieser Kontroverse ist eigentlich nicht nur, ob eine Funktion existiert, sondern ob der KI-Chatbot geeignet ist, die Rolle des täglichen Begleiters und Lernwerkzeugs für Minderjährige zu übernehmen. Herkömmliche Suchmaschinen und Lernsoftware ergreifen in der Regel nicht die Initiative, langfristige, kontinuierliche private Gespräche mit Kindern zu führen, während generative KI kontinuierlich auf Benutzer reagieren und ihre Antworten basierend auf früheren Gesprächen kontinuierlich anpassen kann. Das bedeutet, dass KI, sobald sie von Teenagern als Vertrauter genutzt wird, für lange Zeit ihr Hauptkanal für die Kommunikation von Informationen und Emotionen sein kann.
Dadurch ist der elterliche Benachrichtigungsmechanismus auch viel wichtiger als die allgemeinen Sicherheitstipps in gewöhnlichen Anwendungen. Wenn die KI risikoreiche Inhalte wie Selbstverletzung und Essstörungen erkennen kann, die Erziehungsberechtigten aber nicht rechtzeitig auf ernste Situationen aufmerksam macht, dann spielt der sogenannte „Jugendsicherheitsmodus“ möglicherweise nicht die Rolle, die Eltern erwarten.
Andererseits stellte Common Sense Media auch fest, dass ChatGPT für Teenager immer noch Hausaufgaben erledigen kann, die Kinder alleine erledigen sollten. Für ein KI-Produkt, das Schülern beim Lernen helfen soll, ist dies ebenfalls ein offensichtlicher Widerspruch: KI kann Wissen erklären, Tipps und Anleitungen geben, aber wenn sie Hausaufgaben für Schüler direkt erledigt, kann sie den wichtigsten unabhängigen Denk- und Problemlösungsprozess im Lernprozess schwächen.
OpenAI hat noch nicht erklärt, dass es ChatGPT für Teenager stoppen wird, betonte jedoch, dass es den Sicherheitsmechanismus für Teenager weiter verbessern wird. Das Unternehmen ist auch davon überzeugt, dass unabhängige Tests selbst ein wichtiger Weg zur Verbesserung von Produkten sind, allerdings bestehen zwischen beiden Seiten derzeit deutliche Unterschiede darüber, was die Testergebnisse beweisen können.
Die Kontroverse kommt zu einer Zeit, in der KI immer schneller Einzug in die Bildung und in das Leben junger Menschen hält. Technologieunternehmen, darunter OpenAI, hoffen, KI in Lernassistenten, persönliche Tutoren und kreative Tools einzubauen. Gleichzeitig konzentrieren sich Forschung und Kritik jedoch immer mehr auf das Problem der übermäßigen Abhängigkeit von Minderjährigen von KI.
Besonders hervorzuheben ist, dass es für Eltern möglicherweise schwierig ist, die tatsächliche Interaktion zwischen ihren Kindern und der KI zu beurteilen. Im Gegensatz zu öffentlichen sozialen Medien weist KI-Chat normalerweise starke private Eigenschaften auf. Wenn der Sicherheitserinnerungsmechanismus selbst verzögert oder unzureichend gemeldet wird, bemerken Eltern möglicherweise erst dann, dass ihre Kinder gefährliche Themen mit der KI besprochen haben, wenn das Problem ernst geworden ist.
Daher wurde ChatGPT for Teens dieses Mal von Common Sense Media befragt, was tatsächlich ein größeres Problem aufdeckte, mit dem die gesamte KI-Branche konfrontiert ist: Wenn KI beginnt, langfristige, personalisierte interaktive Dienste direkt für Kinder und Jugendliche bereitzustellen, welchen Grad an Sicherheitsstandards müssen Unternehmen dann erreichen, um Eltern wirklich zu beruhigen?
Der Streit zwischen den beiden Parteien bezüglich der Testergebnisse ist noch nicht beigelegt. Common Sense Media verlangt von OpenAI, durch unabhängige Tests nachzuweisen, dass seine elterlichen Benachrichtigungs- und Krisenschutzmechanismen zuverlässig sind, während OpenAI der Ansicht ist, dass diese Bewertung den tatsächlichen Status des Produkts nach seiner offiziellen Markteinführung nicht vollständig widerspiegelt. Letztendlich bedarf es unabhängigerer und wiederholbarer Tests, um zu überprüfen, welches Urteil der Seite näher an der Wahrheit liegt.
Weitere Informationen:
https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
Kommentare