Meta sagte heute in einem Blogbeitrag, dass es seine Kindersicherheitsfunktionen zum Schutz von Kindern erweitert und aktualisiert. Dies ist die neueste Entwicklung vor dem Hintergrund zunehmender Berichte darüber, wie seine Plattform kindersexuelle Inhalte empfiehlt.
Das Wall Street Journal berichtet seit Monaten darüber, wie Instagram und Facebook den Nutzern unangemessene und sexuelle Inhalte mit Bezug zu Kindern bereitstellten. Im Juni wurde in einem Bericht detailliert beschrieben, wie Instagram ein Netzwerk von Konten, die mit Material über sexuellen Kindesmissbrauch (Child Sexual Abuse Material, CSAM) handelten, verband und diese Konten über seinen Empfehlungsalgorithmus aneinander weiterleitete. Eine heute veröffentlichte Folgeuntersuchung ergab, dass sich das Problem auf Facebook-Gruppen ausweitete, wo es ein Ökosystem aus pädophilen Konten und Gruppen gab, von denen einige bis zu 800.000 Mitglieder hatten.
In beiden Fällen ermöglichte das Empfehlungssystem von Meta missbräuchlichen Konten, einander über Funktionen wie Facebooks „You May Be Interested Groups“ oder Autocomplete-Tags auf Instagram zu finden. Meta sagte heute, dass dadurch die Interaktion „verdächtiger“ Erwachsenenkonten eingeschränkt wird: Auf Instagram können diese Konten einander nicht folgen, sie werden nicht empfohlen und ihre Kommentare werden für andere „verdächtige“ Konten nicht sichtbar sein.
Meta sagte außerdem, dass es seine Liste mit Begriffen, Phrasen und Emojis im Zusammenhang mit der Kindersicherheit erweitert und damit begonnen habe, maschinelles Lernen zu nutzen, um Zusammenhänge zwischen verschiedenen Suchbegriffen zu erkennen.
Während US-amerikanische und EU-Regulierungsbehörden Druck auf Meta ausüben, wie die Sicherheit von Kindern auf der Plattform gewährleistet werden kann, veröffentlichte Meta auch den oben genannten Bericht und nahm entsprechende Anpassungen für die Kindersicherheit vor. Mark Zuckerberg, CEO von Meta, wird zusammen mit mehreren anderen großen Technologiemanagern im Januar 2024 vor dem Senat über die Ausbeutung von Kindern im Internet aussagen. Im November setzten die EU-Regulierungsbehörden Meta eine Frist (die heute abläuft), um Informationen darüber bereitzustellen, wie es Minderjährige schützt; Heute richteten sie neue Anfragen an Meta, in denen sie insbesondere auf „selbst erstelltes Material über sexuellen Missbrauch von Kindern (SG-CSAM), das auf Instagram kursiert“ und das Empfehlungssystem der Plattform hinweisen.
Ende November stellten die Dating-App-Unternehmen Bumble und Match nach einem Bericht des Wall Street Journal die Werbung auf Instagram ein. Werbung beider Unternehmen erschien neben Reels-Videos mit expliziten Inhalten und sexuellen Übergriffen auf Kinder.