Da sich immer mehr Kreative für den künstlerischen Ausdruck der künstlichen Intelligenz zuwenden, gibt es auch eine breitere Forderung nach Transparenz bei der Einbeziehung künstlicher Intelligenz in die Erstellung von Inhalten. Um dieses Problem zu lösen, gab TikTok heute bekannt, dass es ein neues Tool auf den Markt bringen wird, das es Erstellern ermöglicht, KI-generierte Inhalte zu kommentieren, und mit dem Testen anderer Methoden zur automatischen Kommentierung von KI-generierten Inhalten beginnen wird.
Das Unternehmen sagte, es halte die Einführung von KI-Tags für notwendig, da KI-Inhalte die Zuschauer verwirren oder irreführen könnten. Natürlich hat TikTok seine Richtlinie zu synthetischen Medien aktualisiert und verlangt von den Menschen, Inhalte mit künstlicher Intelligenz zu kennzeichnen, die realistische Bilder, Audio- oder Videoinhalte enthalten (z. B. Deep Fakes), um den Zuschauern dabei zu helfen, die Einzelheiten des Videos zu klären und die Verbreitung irreführender Informationen zu verhindern. Die Richtlinien von TikTok erlauben es, nicht veröffentlichte Bilder lebensechter künstlicher Intelligenz zu entfernen.
Abgesehen von extremen Fällen, in denen KI zur absichtlichen Irreführung von Benutzern eingesetzt wird, können einige von KI generierte Inhalte jedoch zwischen dem Erscheinungsbild von authentisch und falsch schwanken. In dieser Grauzone werden Endnutzer im Allgemeinen mehr Transparenz zu schätzen wissen, sodass sie erkennen können, ob der angezeigte Inhalt stark bearbeitet oder mithilfe künstlicher Intelligenz erstellt wurde.
TikTok bringt jetzt ein neues Tool auf den Markt, das es den Erstellern nicht nur einfacher macht, bestehende Richtlinien zu synthetischen Medien einzuhalten, sondern auch alle anderen Inhalte markiert, die vollständig mithilfe von KI erstellt wurden oder stark von KI bearbeitet wurden. Ersteller können das Tool verwenden, wenn sie ein Video hochladen, und TikTok möchte nicht, dass Ersteller ihre früheren Videos erneut mit Tags versehen.
Wenn ein Ersteller das neue Tool verwendet, zeigt TikTok unter dem Benutzernamen des Videos eine Meldung an, die besagt, dass der Ersteller das Video als KI-generiert markiert hat. Allerdings wird TikTok YouTuber nicht bestrafen, wenn sie es versäumen, Inhalte mit künstlicher Intelligenz zu kennzeichnen, die nicht unter die bestehenden Richtlinien für synthetische Medien fallen.
Darüber hinaus sagte TikTok auch, dass es eine Methode entwickelt, um Inhalte mit künstlicher Intelligenz automatisch zu erkennen und zu kennzeichnen. Diese Woche wird TikTok damit beginnen, ein „KI-generiertes“ Label zu testen, das schließlich für alle Inhalte gelten wird, bei denen festgestellt wird, dass sie mithilfe von KI bearbeitet oder erstellt wurden.
Das Unternehmen lehnte es ab, konkrete Details darüber preiszugeben, wie seine Technologie nach möglichen KI-Inhalten suchen wird, und wies darauf hin, dass die Weitergabe dieser Details es böswilligen Akteuren ermöglichen könnte, seine Erkennungsfähigkeiten zu umgehen. TikTok sagte jedoch, dass es verschiedene KI-Erkennungsmodelle testen werde und eine Provenienzpartnerschaft „evaluiere“, die der Plattform dabei helfen soll, KI besser zu erkennen, indem KI-Tags in den Inhalt selbst eingebettet werden.
In den letzten Monaten haben sowohl OpenAI als auch Google ihre eigenen KI-Erkennungsfunktionen angekündigt, und die Kennzeichnung von KI wird auf großen Plattformen zunehmend gängige Praxis. Instagram arbeitet offenbar auch an einer Funktion, um mithilfe künstlicher Intelligenz erstellte oder bearbeitete Inhalte hervorzuheben. Die Europäische Union drängt darauf, dass Plattformen zur Bekämpfung von Desinformation grundsätzlich Inhalte der künstlichen Intelligenz kennzeichnen.
Um die Transparenz zu erhöhen, wird TikTok nun auch alle Spezialeffekte, die künstliche Intelligenz nutzen, umbenennen, um deutlich auf „KI“ im Namen hinzuweisen. Dies wollte das Unternehmen bislang nicht offenlegen. Als der „BoldGlamor“-Filter von TikTok wegen seiner hervorragenden Technologie zur Gesichtsveränderung von Benutzern populär wurde, vermuteten einige Leute tatsächlich, dass der Filter nicht AR (Augmented Reality-Technologie), sondern KI nutzte. Allerdings weigerte sich TikTok damals, auf Medienanfragen, ob es sich bei dem Produkt um künstliche Intelligenz handele, zu antworten.
Mit der neuen Label-Änderung können Nutzer nun auf einen Blick erkennen, welche TikTok-Filter KI verwenden. Das Unternehmen sagte, dass seine aktualisierten Richtlinien für Effekthaus-Ersteller sie dazu verpflichten würden, dasselbe zu tun.
TikTok wies darauf hin, dass es bei der Entwicklung neuer KI-Tags seinen Sicherheitsbeirat und Branchenexperten konsultiert habe, darunter Dr. David G. Rand vom Massachusetts Institute of Technology, dessen Forschung die Reaktionen der Benutzer auf verschiedene Arten von KI-Tags untersuchte. Zu diesem Zweck hofft TikTok, dass der Begriff „Generierung künstlicher Intelligenz“ von verschiedenen Personengruppen allgemein verstanden wird.
In den kommenden Wochen wird TikTok außerdem Lehrvideos und andere Ressourcen zur Medienkompetenz veröffentlichen, um Benutzern ein besseres Verständnis der künstlichen Intelligenz zu ermöglichen.
Diese Updates folgen den anderen Initiativen von TikTok rund um künstliche Intelligenz in den Medien, einschließlich der Zusage vom Februar, der Partnership on AI's Responsible Practices for Synthetic Media beizutreten, einem Branchenkodex mit Best Practices für Transparenz und verantwortungsvolle Innovation in der künstlichen Intelligenz. Im August dieses Jahres veranstaltete das Unternehmen außerdem in Zusammenarbeit mit der gemeinnützigen Organisation Digital Moment einen runden Tisch mit jungen Menschen, um ihre Ansichten zur Online-Entwicklung künstlicher Intelligenz zu erfahren.
KI-Tags werden ab heute eingeführt, aber möglicherweise werden sie erst nach Abschluss der Einführung angezeigt.