Ab nächster Woche wird Instagram eine neue Funktion einführen: Wenn jugendliche Nutzer in kurzer Zeit mehrmals versuchen, nach Schlüsselwörtern zu suchen, die offensichtlich mit Selbstverletzung oder Selbstmord zu tun haben, sendet die Plattform eine Erinnerung an ihre Eltern und empfiehlt ihnen, die Initiative zu ergreifen und sich um die psychische Verfassung ihrer Kinder zu kümmern. Die Muttergesellschaft Meta sagte außerdem, dass ein ähnlicher Frühwarnmechanismus später in diesem Jahr auch auf ihre KI-Chatbot-Produkte ausgeweitet werden soll.
Diese Funktion wird zunächst in den USA, im Vereinigten Königreich, in Australien und Kanada eingeführt und gilt nur für Jugendkonten, die die Einstellung „Elternüberwachung“ aktiviert haben. Das heißt, Eltern erhalten nur dann relevante Benachrichtigungen, wenn sich sowohl Eltern als auch Jugendliche aktiv dafür entscheiden, die Überwachungsfunktion einzuschalten. Meta sagte, dass die Funktion voraussichtlich noch in diesem Jahr auf weitere Regionen ausgeweitet wird.
Laut Aussage von Instagram in der Ankündigung suchen die meisten jugendlichen Nutzer nicht aktiv nach Inhalten, die sich auf Selbstmord oder Selbstverletzung beziehen. Wenn Benutzer solche Suchvorgänge durchführen, besteht die bestehende Richtlinie der Plattform darin, relevante Suchergebnisse direkt zu blockieren und sie auf Ressourcenseiten weiterzuleiten, die psychologische Unterstützung und Hilfe-Hotlines bieten. Instagram betonte, dass das Ziel des neuen Warnmechanismus nicht darin besteht, die Inhaltsbeschränkungen zu lockern, sondern die Sperrpolitik aufrechtzuerhalten und gleichzeitig den Eltern die Möglichkeit zu geben, rechtzeitig einzugreifen und Unterstützung zu leisten, wenn ihre Kinder möglicherweise „Hilfesignale“ senden. Die Plattform erklärte außerdem, dass sie versuchen werde, ein Gleichgewicht zwischen „notwendiger Information der Eltern“ und „Vermeidung übermäßiger Unterbrechungen“ zu finden, um zu häufige Benachrichtigungen und eine Schwächung der Warnwirkung zu vermeiden.
Was bestimmte Präsentationsmethoden betrifft: Wenn das System feststellt, dass ein junger Benutzer innerhalb kurzer Zeit wiederholt nach Wörtern im Zusammenhang mit Selbstverletzung oder Selbstmord gesucht hat, erhalten Eltern Erinnerungen über Kanäle wie E-Mail, Textnachrichten oder WhatsApp, und es wird auch eine Benachrichtigung in der App angezeigt. Die Benachrichtigung erinnert Eltern nicht nur an das aktuelle Suchverhalten ihrer Kinder, sondern enthält auch Anleitungsressourcen für die Kommunikation mit Teenagern über sensible Themen, sodass Eltern besser auf das Gespräch vorbereitet sind.