Im Oktober 2024 tauchten auf der Kurzvideoplattform zahlreiche Synchronisationsvideos von Xiaomi-CEO „Lei Jun“ auf, und nacheinander tauchten verschiedene Nachahmungs- und Parodievideos auf. Tatsächlich stammen die Stimmen in diesen Videos nicht von Lei Jun selbst, sondern werden von der KI synchronisiert.Von der Manipulation des Unternehmers Lei Jun bis zur KI, die Audio- und Videoaufnahmen von Dr. Zhang Wenhong produziert, um Waren für sich selbst zu verkaufen, gibt es sogar Kriminelle, die KI nutzen, um Videos tiefgreifend zu synthetisieren, um Betrug zu begehen.
Im vergangenen Jahr ist das Phänomen der AI-Deep-Synthetic-Audio- und Video-Verletzung immer schwerwiegender geworden.
Kürzlich enthüllte CCTV News das Chaos der von KI synthetisierten Audio- und Videoaufnahmen von Prominenten.
Zuvor nutzten einige Internetnutzer die von KI erzeugte Stimme von Andy Lau, um Traffic für sich zu gewinnen. Die Andy Lau Film Company gab außerdem eine dringende Erklärung heraus, um die Internetnutzer daran zu erinnern, nicht in den Betrug der KI-Sprachsynthesetechnologie zu verfallen, bei dem die Stimme von Andy Lau gefälscht wird.
Eine Untersuchung von CCTV News ergab, dass es nicht schwierig ist, eine KI-tiefe Synthese von Audio und Video zu erreichen, und sogar auf einigen EinkaufsplattformenDie KI-Tiefensynthese-Technologie ist für viele Online-Shops zu einem gewinnbringenden Werkzeug geworden. Es kostet nur Dutzende Yuan, die KI-tiefe Synthese von Audio und Video von Prominenten anzupassen.
Experten sagten:Relevante Gesetze und Vorschriften legen eindeutig fest, dass die umfassende Synthese, Produktion und Weitergabe von Informationen anderer Personen ohne Genehmigung verboten ist.
Online-Shops, die Aufträge für eine tiefgreifende KI-Synthese zur Produktion von Promi-Videos erhalten, stellen bereits Verstöße dar und sollten entsprechende rechtliche Verantwortlichkeiten tragen.
Darüber hinaus können nicht nur Prominente, sondern auch normale Menschen und sogar animierte Bilder, wenn sie KI verwenden, um ihre Audio- und Videoinhalte ohne die Zustimmung der Person oder des Urheberrechtsinhabers zu synthetisieren, ebenfalls als Verstoß gewertet werden und sollten rechtlich zur Verantwortung gezogen werden.