Zusammenfassung:
OpenAI hat seinen ersten Bericht über die Nutzung von ChatGPT durch Jugendliche veröffentlicht. Daten zeigen, dass jugendliche Benutzer ChatGPT im Durchschnitt weniger als 15 Minuten pro Tag nutzen und der Anteil der Benutzer, die ChatGPT länger als 3 Stunden ununterbrochen verwenden, weniger als 2 % beträgt. OpenAI möchte verdeutlichen, dass die meisten Teenager nicht für längere Zeit in Chatbots vertieft sind, gleichzeitig aber die Besorgnis über die Auswirkungen künstlicher Intelligenz auf die psychische Gesundheit und Entwicklung von Minderjährigen weiter zunimmt.
OpenAI gab an, dass bei Teenagergesprächen, bei denen Pausenerinnerungen angezeigt werden, fast die Hälfte der Benutzer den Chat innerhalb von 5 Minuten unterbrechen oder beenden. Das Unternehmen ist davon überzeugt, dass diese Daten zeigen, dass der kürzlich hinzugefügte Mechanismus zur gesunden Nutzung funktioniert. Im Gegensatz dazu haben weniger als 2 % der jugendlichen Nutzer es länger als 3 Stunden ununterbrochen genutzt, und von diesen Langzeitnutzern haben mehr als 80 % mindestens eine studienbezogene Frage gestellt.
Dieser Datensatz wurde veröffentlicht, nachdem OpenAI ChatGPT für Teenager eingeführt hatte. Das Feature wurde im August dieses Jahres gestartet und richtet sich an Jugendliche im Alter von 13 bis 17 Jahren. Wenn das System feststellt, dass der Benutzer möglicherweise unter 18 Jahre alt ist, oder der Benutzer aktiv relevante Altersinformationen bereitstellt, aktiviert das System automatisch Sicherheitseinstellungen für Minderjährige.
Einer der Designschwerpunkte von ChatGPT für Teenager ist Bildung. Laut OpenAI sendeten Jugendliche mit aktiviertem Modus mehr lernbezogene Nachrichten und verwendeten häufiger Lernvisualisierungstools und den Lernmodus. Letzteres gibt nicht einfach direkt Antworten auf Aufgaben, sondern hilft den Schülern durch Schritt-für-Schritt-Anleitungen, Fragen und Wissensüberprüfungen, den Lernprozess selbstständig abzuschließen.
OpenAI gab außerdem an, dass innerhalb einer Woche fast 1,2 Millionen Teenager die Lernvisualisierungsfunktion nutzten und mehr als 180.000 Menschen den Lernmodus für schrittweises Lernen nutzten. Das Unternehmen ist der Ansicht, dass diese Daten zeigen, dass ein wichtiges Szenario für die Nutzung von ChatGPT durch Teenager nicht nur der Unterhaltung dient, sondern auch dem Lernen, der Lösung von Problemen und der Erkundung neuer Ideen.
OpenAI kündigte außerdem an, weitere Lernfunktionen für Jugendliche hinzuzufügen. Dazu gehört das kommende College-Bewerbungsplanungstool „College Planner“, das Studenten dabei helfen kann, Bewerbungsanforderungen, Fristen, Aufgaben, finanzielle Unterstützung und andere Informationen zu organisieren. Darüber hinaus plant das Unternehmen, Lernkarten und praktischere Funktionen zur Quizerstellung hinzuzufügen.
Als OpenAI jedoch diese relativ positiven Nutzungsdaten veröffentlichte, nahmen auch die Zweifel am Jugendsicherheitsmechanismus von ChatGPT erheblich zu.
Das Youth AI Safety Institute, eine Tochtergesellschaft der gemeinnützigen Organisation Common Sense Media, veröffentlichte am selben Tag einen Risikobewertungsbericht zu ChatGPT für Teenager und stufte es als „inakzeptables Risiko“ ein. Die Agentur führte mehr als 4.000 Tests durch, um den Sicherheitsschutz von ChatGPT in Nutzungsszenarien für Jugendliche zu bewerten, und war der Ansicht, dass einige der von OpenAI geförderten Schutzmaßnahmen nicht die erwarteten Ergebnisse erzielten.
Eines der Themen, das viel Aufmerksamkeit erregt hat, sind Benachrichtigungsmechanismen für Eltern, wenn es um sensible Themen wie Selbstmord, Selbstverletzung und Essstörungen geht. Common Sense Media sagte, dass ChatGPT während seiner Tests nicht in der Lage war, relevante Warnungen an Eltern stabil und zeitnah zu senden, und in einigen Fällen nicht einmal Benachrichtigungen verschickte. Die Agentur sagte außerdem, dass der Chatbot den Benutzern in einigen sensiblen Gesprächen auch nicht zuverlässig geraten habe, Krisen-Hotlines oder professionelle Hilfe aufzusuchen.
OpenAI bestreitet die Schlussfolgerungen des Tests. Das Unternehmen gab an, dass die Testergebnisse von Common Sense Media den Sicherheitsmechanismus von ChatGPT for Teens im tatsächlichen Betrieb nicht genau widerspiegeln, und wies darauf hin, dass es mehrere Stunden dauern kann, bis Eltern- und Teenagerkonten verknüpft sind und die zugehörigen Sicherheitsfunktionen vollständig aktiviert sind.
OpenAI geht davon aus, dass die Testergebnisse möglicherweise nicht den Endzustand widerspiegeln, wenn der Test beginnt und endet, bevor die Kindersicherungsfunktion vollständig aktiviert ist. Das Unternehmen gab außerdem an, dass die Bereitstellung relevanter Funktionen Faktoren wie Sicherheit und Systemgröße beinhalte, sodass nicht alle Schutzmaßnahmen sofort nach der Erstellung des Kontos wirksam würden.
Common Sense Media ist mit dieser Erklärung nicht einverstanden. Die Agentur gab an, dass einige der für die Tests verwendeten Konten schon lange genug verknüpft und aktiv seien, aber immer noch nicht rechtzeitig benachrichtigt worden seien. Nach Angaben der Agentur erschienen einige Benachrichtigungen erst, als die betreffenden Konten wochenlang sensible Themen erfasst hatten.
Hinter der Kontroverse verbirgt sich ein immer offensichtlicherer Unterschied zwischen Chatbots mit künstlicher Intelligenz und traditionellen sozialen Medien. Soziale Medien locken Benutzer vor allem durch Informationsströme, kurze Videos und soziale Interaktionen zum Verweilen, während Chatbots durch Einzelgespräche direkt auf Benutzer reagieren. Für Teenager kann diese hochgradig personalisierte Interaktion KI zu einem Lernwerkzeug und in manchen Fällen zu einem Objekt emotionaler Kommunikation oder sogar einer langfristigen Kameradschaft machen.
OpenAI hat daher ChatGPT für Teenager um weitere Einschränkungen erweitert, darunter altersgerechte Schutzmaßnahmen vor Selbstverletzung, Gewalt, Essstörungen, riskanten Aktivitäten und pornografischen Inhalten sowie die Verpflichtung des Systems, Ausdrücke zu vermeiden, die emotionale Abhängigkeit hervorrufen könnten. Das Unternehmen hat außerdem Pausenerinnerungen hinzugefügt und im Produktdesign stets betont, dass es sich bei ChatGPT um künstliche Intelligenz und nicht um echte Freunde oder Menschen handelt.
Die von OpenAI veröffentlichten Nutzungsdaten versuchen dieses Mal auch, ChatGPT von der Social-Media-Nutzung von Teenagern zu unterscheiden. Das Unternehmen gab an, dass Teenager ChatGPT im Durchschnitt weniger als 15 Minuten pro Tag nutzen, während öffentliche Daten zeigen, dass Teenager soziale Medien möglicherweise mehrere Stunden am Tag nutzen. Allerdings gibt es offensichtliche Unterschiede in den Funktionen und Verwendungszwecken der beiden, sodass dieser Datensatz nicht direkt belegen kann, dass bei ChatGPT ein geringeres Risiko für die Beeinträchtigung von Teenagern besteht.
Derzeit gibt es deutliche Unterschiede zwischen OpenAI und externen Organisationen bei der Bewertung der Sicherheit von ChatGPT für Jugendliche. OpenAI geht davon aus, dass frühe Nutzungsdaten sowie Ruheerinnerungen und andere Funktionen zeigen, dass Jugendliche im Allgemeinen nicht über einen längeren Zeitraum in ChatGPT vertieft sind und ein erheblicher Teil des Nutzungsverhaltens mit dem Lernen zusammenhängt; Common Sense Media ist der Ansicht, dass Schutzlücken in Chatbots beim Umgang mit Hochrisikoszenarien wie Selbstverletzung auch bei einer kurzen Gesamtnutzungsdauer schwerwiegende Folgen haben können.
Da KI-Chatbots zunehmend in das Studium und das tägliche Leben von Teenagern Einzug halten, verlagert sich die Debatte allmählich von „ob Kinder KI nutzen sollten“ hin zu „in welcher Weise KI von Minderjährigen genutzt werden sollte und was Eltern sehen und kontrollieren können“.
Für OpenAI ist ChatGPT for Teens nicht nur ein wichtiger Versuch, die Anwendung von KI im Bildungsbereich auszuweiten, sondern auch ein Produkt, dessen Sicherheit weiterhin unter Beweis gestellt werden muss. In Zukunft werden die tatsächlichen Nutzungsdaten von Teenagern, die Zuverlässigkeit der Kindersicherungsfunktionen und die Sicherheitsleistung bei Gesprächen mit hohem Risiko wichtige Grundlagen für die Beurteilung sein, ob dieser Mechanismus wirklich wirksam ist.
Verwandte Artikel:
Die OpenAI-Jugendversion von ChatGPT wurde in Frage gestellt: Common Sense Media sagte, sie birgt „inakzeptable Risiken“
Kommentare