Meta wird in den kommenden Monaten mit der Kommentierung von KI-generierten Fotos beginnen, die auf Facebook, Instagram und Threads hochgeladen werden, wenn Wahlen auf der ganzen Welt anstehen. Das Unternehmen wird außerdem damit beginnen, Benutzer zu bestrafen, die nicht offenlegen, ob reale Videos oder Audiodaten mit künstlicher Intelligenz erstellt wurden.
Nick Clegg, Metas Präsident für globale Angelegenheiten, sagte in einem Interview, dass diese Maßnahmen einen „Anreiz“ für die Technologiebranche darstellen sollen, da es bei durch künstliche Intelligenz generierten Medien immer schwieriger wird, zwischen wahr und falsch zu unterscheiden. Das Weiße Haus drängt Unternehmen nachdrücklich dazu, KI-generierte Inhalte mit einem Wasserzeichen zu versehen. Unterdessen, so Clegg, entwickle Meta Tools zur Erkennung synthetischer Medien, selbst wenn deren Metadaten manipuliert worden seien, um die Rolle der künstlichen Intelligenz bei ihrer Entstehung zu verschleiern.
Meta fügt Bildern, die mit seinem eigenen ImagineAI-Generator erstellt wurden, bereits das Wasserzeichen „Imagined with AI“ hinzu, und das Unternehmen wird damit beginnen, dasselbe Wasserzeichen auf KI-Fotos anzubringen, die mit Tools von Google, OpenAI, Microsoft, Adobe, Midjourney und Shutterstock erstellt wurden. Clegg sagte, die Branche sei bei der Festlegung von Standards für die Identifizierung von KI-generiertem Video und Audio weit hinter anderen Branchen zurückgeblieben. Während Meta sehr wachsam ist, wenn es darum geht, wie diese Art von Medien zur Täuschung genutzt werden kann, kann das Unternehmen nicht alles alleine aufspüren.
Er sagte: „Wir werden äußerst wachsam gegenüber jenen bleiben, die befürchten, dass Video- und Audioinhalte darauf ausgelegt sind, die Öffentlichkeit über wichtige politische Fragen im Vorfeld der Wahl zu täuschen. Halte ich es für möglich, dass wir, egal wie schnell sie entdeckt oder schnell abgestempelt werden, immer noch aus unerklärlichen Gründen beschuldigt werden, nicht in der Kette zu sein? Ja, ich denke, das ist möglich, wenn nicht sogar sehr wahrscheinlich.“
Meta hat mit Organisationen wie der Partnership for Artificial Intelligence zusammengearbeitet, um auf bestehenden Inhaltsauthentizitätsprogrammen aufzubauen. Adobe hat kürzlich ein Content-Anmeldeinformationssystem veröffentlicht, das Informationen zur Inhaltsherkunft in Bildmetadaten integriert. Nach der Veröffentlichung einer Betaversion des SynthID-Wasserzeichens für Bilder hat Google diese auf Audiodateien ausgeweitet.
Clegg sagte, Meta werde bald damit beginnen, Benutzer aufzufordern, Beiträge mit fotorealistischen Videos oder Audiodaten offenzulegen, die mit künstlicher Intelligenz erstellt wurden. Wenn Benutzer dies nicht offenlegen, sagte er, „drohen ihnen Strafen, die von Verwarnungen bis zur Löschung beleidigender Beiträge reichen.“
Es gibt bereits viele Beispiele für KI-generierte virale Posts von Politikern, aber Clegg unterschätzte die Wahrscheinlichkeit, dass das Phänomen in einem Wahljahr die Plattform von Meta übernimmt. „Ich glaube nicht, dass wir in absehbarer Zeit ein völlig synthetisches, politisch bedeutsames Video oder Audio sehen werden“, sagte er. „Ich glaube einfach nicht, dass es so sein wird.“
Meta habe auch damit begonnen, intern die Verwendung von nach Community-Standards trainierten Large Language Models (LLMs) zu testen, sagte er und beschrieb dies als einen effizienten „Triage-Mechanismus“ für Zehntausende menschliche Prüfer. „Dies scheint eine sehr effektive und ziemlich genaue Methode zu sein, um sicherzustellen, dass es sich bei den Inhalten, die unseren menschlichen Prüfern gemeldet werden, tatsächlich um Grenzfälle handelt, die menschliches Urteilsvermögen erfordern“, sagte er.