Nachdem Google Gemini auf den Markt gebracht hatte, startete Meta auch ein neues, unabhängiges Erlebnis zur Generierung künstlicher Intelligenz im Internet – „Imagine with Meta“ (Imagine with Meta), das es Benutzern ermöglicht, Bilder durch Beschreibungen in natürlicher Sprache zu erstellen.
Ähnlich wie DALL-E, Midjourney und StableDiffusion von OpenAI basiert ImaginewithMeta auf Metas bestehendem Emu-Bilderzeugungsmodell, um hochauflösende Bilder basierend auf Textaufforderungen zu erstellen. Für US-Benutzer ist es (zumindest im Moment) kostenlos und generiert pro Eingabeaufforderung vier Bilder.
„Wir freuen uns, von den Leuten zu hören, wie sie MetaAIs Text-zu-Bild-Generierungsfunktion „imagine“ nutzen, um unterhaltsame und kreative Inhalte im Chat zu erstellen. Heute erweitern wir die Möglichkeiten, wie „imagine“ außerhalb des Chats verwendet werden kann“, schrieb Meta in einem heute Morgen veröffentlichten Blogbeitrag. „Während unser Messaging-Erlebnis auf unterhaltsamere Hin- und Her-Interaktionen ausgelegt ist, können Sie jetzt auch kostenlose Bilder im Web erstellen.
Nun haben die Bildgenerierungstools von Meta das Unternehmen in letzter Zeit in Schwierigkeiten gebracht (z. B. weil Meta beschuldigt wurde, einen rassistisch voreingenommenen KI-Aufklebergenerator anzubieten), was die Frage aufwirft, ob Imagine with Meta über Sicherheitsvorkehrungen verfügt, um zu verhindern, dass sich die Geschichte wiederholt.
Wasserzeichen sind nicht von Anfang an verfügbar, aber Meta verspricht, in den kommenden Wochen Wasserzeichen zu den von ImaginewithMeta generierten Inhalten hinzuzufügen, um „die Transparenz und Rückverfolgbarkeit zu erhöhen“. Meta sagte, diese Wasserzeichen seien unsichtbar und würden von Modellen der künstlichen Intelligenz generiert und von entsprechenden Modellen erkannt. Es gibt noch kein Wort darüber, ob das Erkennungsmodell irgendwann veröffentlicht wird.
„[Wasserzeichen] ist resistent gegen gängige Bildmanipulationen wie Zuschneiden, Größenänderung, Farbänderungen (Helligkeit, Kontrast usw.), Screenshots, Bildkomprimierung, Rauschen, Aufkleberüberlagerungen usw.“, sagte Meta in dem Beitrag. „Unser Ziel ist es, in Zukunft unsichtbare Wasserzeichentechnologie in viele unserer Produkte mit KI-generierten Bildern zu implementieren.“
Die Wasserzeichentechnologie für generative Kunst ist nicht neu. Das französische Startup Imatag bietet ein Wasserzeichen-Tool an, das angeblich von der Größenänderung, dem Zuschneiden, Bearbeiten oder Komprimieren von Bildern nicht betroffen ist. Ein anderes Unternehmen, Steg.AI, nutzt Modelle der künstlichen Intelligenz, um Wasserzeichen anzubringen, die einer Größenänderung und anderen Bearbeitungen standhalten. Microsoft und Google haben KI-basierte Wasserzeichenstandards und -technologien übernommen, während sich Shutterstock und Midjourney andernorts auf Richtlinien zur Einbettung von Markups geeinigt haben, um anzuzeigen, dass ihre Inhalte mit KI-generierten Tools erstellt wurden.
Doch der Druck auf Technologieunternehmen wächst, klarer zu machen, dass Werke von KI erzeugt werden – insbesondere angesichts der Verbreitung von Deepfakes im Gaza-Krieg und KI-generierten Kindesmissbrauchsbildern, die Filter umgehen.
Kürzlich hat die Cyberspace Administration of China Vorschriften erlassen, die Hersteller von Generatoren für künstliche Intelligenz dazu verpflichten, die generierten Inhalte (einschließlich Text- und Bildgeneratoren) zu kennzeichnen, ohne die Nutzung durch die Benutzer zu beeinträchtigen. Während einer kürzlichen Anhörung im US-Senatsausschuss betonte Senatorin Kyrsten Sinema die Notwendigkeit von Transparenz in der generativen KI, einschließlich der Verwendung von Wasserzeichen.