Meta hat kürzlich offiziell ein neues KI-Inhaltserkennungssystem „Content Seal“ eingeführt, das darauf abzielt, unsichtbare Wasserzeichen in Bilder einzubetten, die von den neuesten KI-Generationsmodellen des Unternehmens (wie Muse) erstellt wurden, und so Internetnutzern dabei zu helfen, echte Inhalte von Deep Fakes zu unterscheiden. Die Veröffentlichung dieses neuen Systems wurde jedoch von der Branche nicht gelobt. Stattdessen löste es weit verbreitete Zweifel an seiner Notwendigkeit und Praktikabilität aus.

Es versteht sich, dass das grundlegende Funktionsprinzip von Content Seal dem von Google ähneltSynthIDÄhnlich wie bei den Content Credentials von C2PA werden für das bloße Auge unsichtbare Rückverfolgbarkeitssignale in KI-generierte Inhalte eingebettet. Auch wenn das Bild zugeschnitten, komprimiert, in der Größe verändert oder als Screenshot erstellt wurde, kann das Wasserzeichen von Erkennungstools erkannt werden. Obwohl sich seine Funktionslogik stark mit bestehenden Standards überschneidet, entschied sich Meta nicht dafür, sich dem ausgereiften Ökosystem anzuschließen, das von mehreren Giganten unterstützt wird, sondern beschloss, unabhängig ein neues exklusives System zu schaffen.

Die Analyse ergab, dass Content Seal in dieser Phase viele offensichtliche Einschränkungen aufgedeckt hat. Zunächst einmal können Benutzer derzeit nur den Test bestehen, den Meta testetProprietäre Web-ToolsZum Testen ist Meta noch nicht daGoogle macht das in GeminiIntegration dieser Erkennungsfunktion direkt in das Haupt-Chatbot-Produkt. Zweitens gilt dieses Wasserzeichen derzeit nur für Bilder, die vom Muse-Modell in Meta-KI-Anwendungen und Websites generiert wurden. Es ist nicht nur nicht in der Lage, die früheren KI-Modelle von Meta abzudecken, auch die Unterstützung für generierte Videoinhalte wurde noch nicht eingeführt.

Darüber hinaus legt Meta auch ein tägliches Nutzungslimit für das Erkennungstool fest, um böswilligen Missbrauch des Systems zu verhindern, was in scharfem Gegensatz zum C2PA-Standard steht, der keine Abfragelimits festlegt. Relevante Medientests zeigen auch, dass die Erkennungserfolgsquote von Content Seal bei beschnittenen Bildern schlecht ist. Die Branche geht allgemein davon aus, dass Meta mit der Welle der generativen KI, die die Welt erfasste, dieses selbst entwickelte System mit begrenzten Funktionen und einem späten Start auf den Markt brachte. Es gelang nicht nur nicht, die Transparenz der KI im gesamten Netzwerk effektiv zu verbessern, sondern es wurden stattdessen auch unnötige Hindernisse für Mainstream-Benutzer geschaffen, die Authentizität von Inhalten zu überprüfen.