Wenn Sie in letzter Zeit auf TikTok waren, sind Ihnen vielleicht einige bizarre Videos von Prominenten aufgefallen, die völlig fragwürdige Produkte bewerben, wie zum Beispiel eine roboterhaft klingende Taylor Swift, die den Zuschauern ein kostenloses Set Küchenutensilien verspricht. Bei allen Videos handelt es sich um Falschmeldungen, die mithilfe der Technologie zur Generierung künstlicher Intelligenz erstellt wurden – das jüngste Beispiel dafür, wie die Technologie genutzt wird, um ohne deren Zustimmung beunruhigende virtuelle Klone von Menschen zu erstellen.
Unnötig zu erwähnen, dass so etwas viele Prominente verärgert hat. Jetzt hat der US-Kongress neue Gesetze zur Bekämpfung von KI-Deepfakes eingeführt – insbesondere solchen, die gefälschte Promi-Empfehlungen und nicht einvernehmliche KI-generierte Nacktheit beinhalten, die online und auf dem Campus zu einem Problem geworden sind. Trotz der wachsenden Beliebtheit von Websites und Apps, die Deepfake-Bilder erzeugen sollen, gibt es derzeit kein umfassendes Gesetz, das die Erstellung von KI-gestützten Bildern verbietet.
Der neue Gesetzentwurf heißt „No AI Fraud Act“ (NoAIFRAUDAct) und wurde von der Abgeordneten aus Florida, María Elvira Salazar, und der Abgeordneten aus Pennsylvania, Madeleine Dean, vorgeschlagen. Der Gesetzentwurf wird die gesetzliche Definition von „Bildrechten und Stimmrechten“ festlegen und die Verwendung von Deep-Fake-Bildern mit künstlicher Intelligenz zur unfreiwilligen Nachahmung anderer, unabhängig davon, ob sie leben oder nicht, effektiv verbieten.
Im Gesetzentwurf heißt es, dass „jeder Eigentumsrechte an seinem eigenen Abbild und seiner eigenen Stimme hat“ und führt mehrere aktuelle Vorfälle an, bei denen Menschen in bizarre Roboter mit künstlicher Intelligenz verwandelt wurden. Der Entwurf erwähnt ausdrücklich aktuelle virale Videos mit KI-generierten Songs, die die Stimmen von Popstars wie Justin Bieber, Bad Bunny, Drake und The Weeknd imitieren.
Der Gesetzentwurf zielt auch speziell auf KI-Deepfake-Pornos ab und besagt, dass „jede digitale Beschreibung oder digitale Sprachwiedergabe, die Material über sexuellen Kindesmissbrauch enthält, sexuell eindeutig ist oder intime Bilder enthält“, der Definition von Schaden im Gesetzentwurf entspricht.
Der vorgeschlagene Gesetzentwurf ist ein Begleitgesetz zu einem ähnlichen Gesetzentwurf des Senats mit dem Namen „Fostering Originality, Fostering the Arts, and Ensuring Safety in Entertainment Act“ (NOFAKESAt), der letzten Oktober im Anschluss an Drakes gefühlvollen Lippensynchronisationsvorfall eingeführt wurde. Der neue Gesetzentwurf wurde am selben Tag eingeführt wie eine weitere von Tennessee-Gesetzgebern eingeführte Maßnahme namens „Ensuring the Safety of Likeness, Voice, and Image Act“ (ELVISAct).
Angesichts der Tatsache, dass diese Gesetzesentwürfe ganz oder teilweise eine Reaktion auf Ausbrüche von Prominenten zu sein scheinen, ist die große Frage, ob sie in der Praxis das geistige Eigentum gewöhnlicher Menschen schützen werden – und nicht nur von Popstars mit Plattenverträgen im Wert von mehreren Millionen Dollar.
Carrie Goldberg, eine Anwältin, die sich auf Deepfakes und andere Online-Belästigungsfälle spezialisiert hat, sagte gegenüber Motherboard: „Der Gesetzentwurf wurde wirklich mit Blick auf die Eigentumsrechte entworfen, die Prominente und Aufnahmekünstler an ihren Abbildern und Stimmen haben. Allerdings behandelt unser Rechtssystem das geistige Eigentum von Prominenten anders als das geistige Eigentum von nicht öffentlichen Persönlichkeiten.“
Das häufigste Beispiel seien Paparazzi-Fotos, sagte Goldberg. Das Gesetz sieht einige Rechtsmittel für Prominente vor, wenn ihre Fotos ohne Genehmigung aufgenommen und für kommerzielle Zwecke verwendet werden. Für normale Menschen liegen die Rechte an ihren Fotos jedoch ausschließlich bei der Person, die sie aufgenommen hat, und sie können nichts dagegen tun, dass ihre Bilder aus anderen Gründen als dem Profit kopiert werden – es sei denn, sie haben das Geld, um teure und oft langwierige Gerichtsverfahren zu finanzieren.
Für gewöhnliche Menschen geschieht die Ausbeutung ihres Image in der Regel nicht zu kommerziellen Zwecken, sondern um sie in Verlegenheit zu bringen oder zu belästigen. In diesem Fall ist der Täter selten derjenige, der über die nötigen Ressourcen verfügt, damit es sich für das Opfer lohnt, eine Klage einzureichen.
Der neue Gesetzentwurf soll festlegen, dass jeder das Recht hat, seine eigene Stimme und sein Abbild zu kontrollieren, um Deepfake zu verhindern. Die Bestimmungen für Nicht-Prominente werden jedoch weitgehend davon abhängen, ob das Opfer nachweisen kann, dass ihm ein Schaden zugefügt wurde. Konkret geht es darum, nachzuweisen, dass der „Deepfake“ „Körper- oder Körperverletzung“ verursacht hat, „schwere psychische Belastung“ verursacht hat oder sexuell expliziter Natur war.
Natürlich ist dies alles nur ein Versuch, die Oberfläche eines größeren Problems zu normalisieren, nämlich dass Technologieunternehmen aus dem Internet gesammelte Daten verwenden, um riesige Systeme der künstlichen Intelligenz aufzubauen, ohne starke Maßnahmen zur Schadensbegrenzung für den Schaden, den diese Systeme unweigerlich verursachen werden. In der aktuellen Klage gegen den ChatGPT-Erfinder OpenAI argumentierte das Unternehmen kürzlich, dass es nicht dafür bestraft werden sollte, dass es illegale und urheberrechtlich geschützte Materialien zum Trainieren seiner Modelle für künstliche Intelligenz verwendet, da es „unmöglich“ sei, ein System für künstliche Intelligenz zu erstellen, ohne dies zu tun.
Aber die Natur der Black-Box-KI-Systeme, die von Unternehmen wie OpenAI, Microsoft und Meta entwickelt werden, garantiert nahezu, dass diese schlimmen Dinge passieren werden. Kürzlich entdeckten Forscher mehr als 3.000 Bilder von Material über sexuellen Kindesmissbrauch in einem riesigen Datensatz, der zum Trainieren nahezu aller großen künstlichen Intelligenzsysteme auf dem Markt verwendet wird. Unternehmen arbeiten auch daran, sicherzustellen, dass ihre generativen KI-Systeme illegale Inhalte herausfiltern, so werden Deepfake-Pornos in den Bildernsuchergebnissen von Google und Bing gefunden. Ein großes Problem besteht darin, dass es viele Apps von kleinen Unternehmen oder Einzelpersonen gibt, die sich der Erstellung nicht einvernehmlicher KI-Nacktheit widmen und auf großen Social-Media-Plattformen beworben und in App-Stores verkauft werden.
Letztlich, so Goldberg, können diese Probleme nur dann vollständig angegangen werden, wenn die Unternehmen, die diese KI-Systeme bauen, zur Verantwortung gezogen werden. : „Was unsere Gesellschaft wirklich braucht, ist, künstliche Intelligenz und Deepfakes auf systemischer Ebene zu bekämpfen und bösartige Produkte auf Mainstream-Märkten wie dem App Store und Google Play zu verfolgen, die ausschließlich zum Zweck der Manipulation von Bildern auf dem Markt sind. Wir müssen Druck auf Suchmaschinen ausüben, Menschen nicht dazu zu bringen, diese Produkte zu verwenden oder die Websites zu bewerben, die diese Bilder veröffentlichen. Wir müssen von ihnen verlangen, den Opfern einen einfachen Prozess zum Entfernen von Inhalten anzubieten.“