Aufsichtsgremium fordert Meta nachdrücklich auf, die Regulierung von KI-generierten Inhalten und Deepfakes zu verschärfen

Das Meta Oversight Committee hat kürzlich eine Entscheidung erlassen, in der es Unternehmen auffordert, die Regulierungsvorschriften so schnell wie möglich zu verschärfen und klarzustellen, um der schnellen Verbreitung von KI-generierten Inhalten und Deep-Fake-Videos in Hochrisikosituationen wie Kriegen, Katastrophen und Wahlen entgegenzuwirken. Die Agentur wies darauf hin, dass Meta derzeit offensichtliche Mängel bei der Kennzeichnung und Identifizierung groß angelegter KI-generierter Inhalte aufweist, insbesondere in Konflikt- und Krisenzeiten, und dass dieser Mangel die Öffentlichkeit irreführen könnte.

Die Kritik geht auf ein Fake-Video zurück, das letztes Jahr auf der Meta-Plattform aufgetaucht war. Das von der KI erstellte Video soll Aufnahmen von Gebäudeschäden in der israelischen Stadt Haifa zeigen und wurde von einem Benutzer auf den Philippinen gepostet, der sich als Nachrichtenquelle ausgibt. Viele Nutzer meldeten das Video, aber die Plattform führte weder eine interne Überprüfung durch noch löste sie einen Mechanismus zur Faktenprüfung durch Dritte aus. Das Video war schon seit längerem online, wurde jedoch nicht als „KI-Inhalt mit hohem Risiko“ gekennzeichnet. Es erregte erst dann Aufmerksamkeit, als der Aufsichtsausschuss intervenierte.

Die Aufgabe des Aufsichtsausschusses besteht darin, den Umgang von Meta mit Benutzern und der Community weltweit zu verbessern. Das Komitee ist der Ansicht, dass dieser Fall systemische Probleme mit dem KI-Content-Governance-System von Meta auf Plattformen wie Facebook, Instagram und Threads aufgedeckt hat, das sich zu sehr auf die freiwillige Offenlegung der Benutzer oder interne „Upgrade“-Prozesse verlässt und nicht mit der aktuellen Realität der Verbreitung von KI-Inhalten mit alarmierender Geschwindigkeit und Ausmaß, insbesondere bei Kriegen, Katastrophen und politisch hochsensiblen Ereignissen, mithalten kann.

Derzeit hängt die Kennzeichnung von KI-generierten Inhalten durch Meta weitgehend davon ab, ob der Ersteller die Verwendung von KI selbst erklärt oder ob der Inhalt intern an einen speziellen Überprüfungsprozess weitergeleitet wird. Der Aufsichtsausschuss wies darauf hin, dass dieser Ansatz bei weitem nicht ausreicht, um der Verbreitung von Deep Fakes und synthetischen Medien im Internet entgegenzuwirken, und dass es schwierig ist, Benutzer rechtzeitig daran zu erinnern, wie die Inhalte generiert werden und möglicherweise irreführend sind.

In seinen jüngsten Empfehlungen forderte das Oversight Board Meta auf, einen separaten Satz von Community-Standards für KI-generierte Inhalte zu entwickeln, anstatt sich weiterhin auf einen fragmentierten Flickenteppich aus politischen Antworten auf Fehlinformationen zu verlassen. Das Komitee plädiert dafür, dass die Regeln für KI-generierte Bilder, Videos und Audios in einem klaren Rahmen vereinheitlicht werden, damit Plattformen in Hochrisikoszenarien konsistenter und transparenter eingreifen können.

Das Komitee empfahl Meta außerdem, das Label „KI mit hohem Risiko“ häufiger zu verwenden, um Inhalte deutlich zu kennzeichnen, die sich auf die öffentliche Sicherheit, die öffentliche Meinung und Wahlen auswirken könnten. Gleichzeitig müssen Unternehmen die Fähigkeiten automatisierter Erkennungssysteme weiter verbessern, um mehrere Medienformen wie Bilder, Videos und Audio abzudecken, und den Benutzern klar erklären, mit welchen spezifischen Strafen diejenigen rechnen müssen, die digitale Synthese oder manipulierte Inhalte nicht offenlegen.

In Bezug auf die technischen Grundlagen benannte das Aufsichtskomitee das Branchen-Framework für Content Credentials und war der Ansicht, dass Meta diesen Mechanismus aktiver und einheitlicher übernehmen sollte. Dieses Framework zielt darauf ab, die Nachverfolgbarkeit und Transparenz von Inhalten zu verbessern, indem Metadaten an Inhalte angehängt werden, um die Quelle des Materials anzugeben und festzustellen, ob KI-Tools verwendet werden. Der Ausschuss ist besorgt darüber, dass Meta derzeit bei der Durchsetzung solcher Standards uneinheitlich vorgeht, auch bei der Kennzeichnung von Inhalten, die von seinen eigenen KI-Tools generiert werden.

Das Oversight Board hat Metas „Medienmanipulation“-Regeln zuvor als zu verwirrend und zu eng im Geltungsbereich kritisiert und sich zu sehr darauf konzentriert, „ob KI verwendet wird“ und nicht darauf, „ob der Inhalt täuscht“. Unter Druck passte Meta das entsprechende Kennzeichnungssystem an und ersetzte die ursprüngliche Kennzeichnung „Made with AI (made by AI)“ durch die umfassendere Kennzeichnung „AI info (AI-Informationen)“. Allerdings hat diese Änderung auch von außen Zweifel hervorgerufen. Es wird vermutet, dass die neue Etikettenaufforderung zu allgemein und nicht auffällig genug ist und Benutzer die wichtigsten Informationen leicht ignorieren können.

Am Vorabend der Amtseinführung des derzeitigen US-Präsidenten Donald Trump gab Mark Zuckerberg, CEO von Meta, bekannt, dass die bestehende Partnerschaft des Unternehmens zur Überprüfung von Fakten durch Dritte „zu politisch voreingenommen“ geworden sei und das Vertrauen der Benutzer in die Plattform untergraben habe, und dass sie durch einen Community Notes-Mechanismus ersetzt werde. Diese Anpassung bedeutet, dass die Plattform bei der Identifizierung und Korrektur von Fehlinformationen weiterhin auf spontane Kennzeichnung und Fehlerkorrektur durch die Benutzergemeinschaft angewiesen sein wird. Vor dem Hintergrund der rasanten Verbreitung von Deep Fake- und KI-Inhalten hat diese Strategie auch eine anhaltende Debatte über ihre Wirksamkeit ausgelöst.