Ein kürzlich vom Pew Research Center in den Vereinigten Staaten veröffentlichter Bericht zeigt, dass Chatbots mit künstlicher Intelligenz schnell in den Alltag amerikanischer Teenager integriert werden und viele von ihnen solche Tools als Kanal für emotionale Katharsis und Beratung genutzt haben. Der Bericht weist darauf hin, dass unter amerikanischen TeenagernDie häufigsten Nutzungsszenarien sind nach wie vor die Suche nach Informationen (57 %) und das Erledigen von Aufgaben im akademischen Bereich (54 %), gleichzeitig nimmt aber auch der Einsatz von Rollenvertretungen von Verwandten und Freunden zu: 16 % der Teenager werden Chatbots zum Chatten nutzen, und 12 % der Teenager geben deutlich an, dass sie emotionale Unterstützung oder Rat von künstlicher Intelligenz suchen werden.
Für manche Teenager mag es „einfacher“ sein, mit einem Chatbot zu sprechen, als sich einem Elternteil oder Freund anzuvertrauen, aber dieser Trend ist für Fachkräfte im Bereich der psychischen Gesundheit besonders beunruhigend. Sie wiesen darauf hin, dass universelle Tools für große Modelle – wie ChatGPT, Claude und Grok – nie als Produkte für psychologische Beratung oder emotionale Begleitung konzipiert waren. Werden sie als „emotional abhängige Objekte“ eingesetzt, können sie im Extremfall sogar eine Gefahr für die psychische Gesundheit des Nutzers darstellen. In dem Bericht wurde erwähnt, dass es Fälle gegeben habe, die zeigten, dass Benutzer nach langen und intensiven Gesprächen mit Chatbots ernsthafte psychische Probleme entwickelten und sogar zu Tragödien führten, was alle Bereiche der Gesellschaft dazu veranlasste, über die Grenzen solcher Produkte nachzudenken.
Nick Haber, ein Wissenschaftler an der Stanford University, der das Heilungspotenzial großer Sprachmodelle untersucht, sagte in einem Interview, dass Menschen im Wesentlichen soziale Tiere seien und dass die Art und Weise, wie diese Systeme derzeit genutzt würden, die Isolation einzelner Menschen verstärken könne. Er wies darauf hin, dass einige Nutzer durch wiederholte Interaktionen mit Chatbots nach und nach den Kontakt zu den Fakten der realen Welt verlieren, was auch die reale Verbindung zu anderen schwächt. Dies kann dazu führen, dass Menschen isolierter und einsamer werden und in schweren Fällen sogar schlimmere Folgen haben.
Die Pew-Umfrage ergab auch „generationelle kognitive Unterschiede“. Bei den Eltern glauben nur etwa 51 % der Befragten, dass ihre Kinder Chatbots nutzen, während bei den Teenagern 64 % zugeben, dass sie solche Tools genutzt haben. Im Hinblick auf akzeptable Nutzungsszenarien haben Eltern im Allgemeinen eine lockere Haltung gegenüber der Verwendung von „Informationen überprüfen“ und „Hausaufgaben schreiben“: 79 % der Eltern befürworten die Verwendung künstlicher Intelligenz durch Teenager zur Informationssuche und 58 % akzeptieren deren Verwendung zur Lernunterstützung. Aber wenn das Nutzungsszenario auf „Chatten“ und „emotionale Unterstützung“ umschlägt, wird die Einstellung plötzlich kalt: Nur 28 % der Eltern stimmen der Aussage zu, dass ihre Kinder Chatbots zum Chatten verwenden, und nur 18 % der Eltern stimmen zu, dass diese die Rolle der emotionalen Unterstützung oder Beratung spielen. 58 % der Eltern gaben deutlich an, dass sie es nicht akzeptieren können, dass ihre Kinder Chatbots als Objekte emotionaler Kommunikation nutzen.
Die Diskussionen über die „Sicherheit künstlicher Intelligenz“ werden unter Technologieunternehmen und Aufsichtsbehörden immer hitziger. In dem Bericht wurde erwähnt, dass Character.AI, eine bekannte Chatbot-Plattform, aufgrund der öffentlichen Meinung und des rechtlichen Drucks beschlossen hat, das Chat-Erlebnis für minderjährige Benutzer vollständig einzustellen. Zuvor hatten zwei Selbstmorde von Teenagern im Zusammenhang mit der Plattform für sozialen Schock gesorgt. Familienangehörige gaben an, dass sich die Stimmung des Verstorbenen nach längeren, ausführlichen Gesprächen mit Chatbots erheblich verschlechtert habe, und dass er sich dann für den Selbstmord entschieden und eine Klage gegen das Unternehmen eingereicht habe. OpenAI, ein weiteres führendes Unternehmen, hat sich dafür entschieden, ein GPT-4o-Modell „in den Ruhestand zu schicken“, das einige Benutzer als „emotionalen Begleiter“ betrachten. Dieses Modell wird oft dafür kritisiert, dass es zu sehr auf die Emotionen der Benutzer eingeht und eine starke Tendenz hat, „zu gefallen“, wodurch eine gefährliche emotionale Bindung innerhalb der Benutzergemeinschaft entsteht. Die Einstellung des Model-Dienstes löste sofort heftige Gegenreaktionen bei einer Gruppe von Nutzern aus, die auf den Model-Dienst zur emotionalen Kommunikation setzten.
Trotz der Risiken und Kontroversen zeigen Berichte, dass die überwiegende Mehrheit der amerikanischen Teenager auf irgendeine Weise Chatbots nutzt. Ihre Meinungen zu den langfristigen Auswirkungen künstlicher Intelligenz auf die Gesellschaft sind sich jedoch nicht einig: Auf die Frage „Wie wird sich künstliche Intelligenz in den nächsten 20 Jahren auf die Gesellschaft auswirken?“ 31 % der Teenager glauben, dass die Auswirkungen insgesamt positiv sein werden, während 26 % pessimistisch sind und glauben, dass die Auswirkungen negativ sein werden. Die übrigen Befragten gehen eher davon aus, dass die Auswirkungen komplex oder schwer abzuschätzen sind. In einer Zeit, in der sich die Technologie rasant weiterentwickelt und es keinen Konsens über Regulierung und ethische Diskussionen gibt, wird die immer enger werdende Beziehung zwischen Teenagern und künstlicher Intelligenz von Eltern, Experten und Unternehmen genau beobachtet.