Mit Unterstützung der KI-Technologie können Videos und Sounds gefälscht werden. In der virtuellen Welt, die durch ein Netzwerkkabel und einen Bildschirm getrennt ist, entspricht das, was Sie sehen, möglicherweise nicht dem, was Sie glauben. Berichten zufolge trat der internationale Superstar „Taylor Swift“ (Taylor Swift) vor einiger Zeit in einem Video auf und lieferte auch eine „realistische Aussprache“, um für das Produkt zu werben. „Hallo zusammen, ich bin Taylor Swift. Aufgrund eines Verpackungsfehlers können 3.000 LeCreuset-Kochgeschirrsets (chinesischer Name übersetzt als „Cool Color“) nicht normal offline verkauft werden, sondern werden online verkauft.“
„Sie hat sich mit LeCreuset für eine Aktion zusammengetan, bei der 20 treue Fans ein kostenloses Kochgeschirrset erhalten.“
Dies ist jedoch nicht der Fall. Berichten zufolge ist der „Taylor Swift“ im Video nicht wirklich Swift.Stattdessen synthetisierte die KI-„Deepfake“-Technologie ihre Stimme und fügte sie mit ihrem Bild und LeCreuset-Werbematerial zusammen.
Wenn das Opfer auf die gefälschte Website weitergeleitet wird, wird es zur Zahlung einer Versandkostenpauschale von 9,96 US-Dollar aufgefordert und das vermeintlich kostenlose Küchengeschirr wird nicht tatsächlich verschenkt.
Verbraucher sollten in Zukunft wachsamer sein, wenn sie auf solche Videos von Prominenten stoßen, die für Produkte werben. Sie sollten nicht in die Falle von Betrügern tappen, nur weil die Videos Produkte bewerben.