Nachdem bei den Vorwahlen letzten Monat eine Botschaft zu hören war, die wie die Stimme von US-Präsident Joe Biden klingen sollte, die die Bewohner von New Hampshire auffordert, nicht zu wählen, will die Federal Communications Commission (FCC) die Verwendung künstlicher Intelligenz generierter Stimmen für Robocalls illegal machen. Die Agentur befürchtet, dass die Audio-Deepfake-Technologie eingesetzt wird, um Verbraucher zu verwirren und zu täuschen, indem die Stimmen von „Prominenten, politischen Kandidaten und nahen Verwandten“ nachgeahmt werden.

Der Vorschlag der FCC-Vorsitzenden Jessica Rosenworcel würde es nach dem Telephone Consumer Protection Act (TCPA) illegal machen, mit künstlicher Intelligenz erzeugte Stimmen zum Tätigen von Anrufen zu verwenden.

Das TCPA-Gesetz von 1991 schränkt Telemarketing, die Verwendung automatischer Telefonwählsysteme und künstliche oder aufgezeichnete Sprachnachrichten ein. Das Gesetz schreibt außerdem vor, dass Telefonverkäufer die ausdrückliche schriftliche Zustimmung des Verbrauchers einholen müssen, bevor sie mit dem Verbraucher telefonieren. Die FCC möchte, dass KI-generierte Töne ebenfalls diesen Standards entsprechen. Es wird erwartet, dass die fünf Mitglieder des Ausschusses in den kommenden Wochen über den Vorschlag abstimmen.

„KI-generierte Sprachklone und Bilder säen bereits Verwirrung und verleiten Verbraucher dazu, Betrug und Betrügereien für legitim zu halten“, sagte Rosenworcel in einer Erklärung. „Egal welche Berühmtheit oder welchen Politiker Sie mögen oder welche Beziehung Sie zu Ihren Verwandten haben, wir alle sind wahrscheinlich Ziel dieser Fake-Anrufe, wenn sie um Hilfe rufen.“

Das Sprachbetrugserkennungsunternehmen Pindrop analysierte die 39 Sekunden lange gefälschte Nachricht, die so klang, als würde Biden die Einwohner von New Hampshire auffordern, nicht zu wählen, und stellte fest, dass sie mit der Text-to-Speech-Engine von ElevenLabs erstellt wurde. Das Startup nutzt Software für künstliche Intelligenz, um die Laute von mehr als zwei Dutzend Sprachen zu reproduzieren.

Laut Bloomberg bestätigte ElevenLabs, dass seine Software bei dem Vorfall in New Hampshire verwendet wurde, und sperrte das verantwortliche Konto. Die Generalstaatsanwaltschaft von New Hampshire hat eine Untersuchung von Telefonanrufen von Personen angekündigt, die sich als Biden ausgeben.

Ein FCC-Sprecher sagte, mögliche Gesetzesänderungen würden den Generalstaatsanwälten neue Befugnisse geben, gegen Sprachanrufbetrüger vorzugehen, die künstliche Intelligenz nutzen, und gleichzeitig die Verbraucher zu schützen.

Die FCC kämpft seit Jahren gegen Robocalls. Im Dezember 2022 schlug die Federal Communications Commission eine Geldstrafe von 300 Millionen US-Dollar gegen eine illegale multinationale Robocall-Operation vor, die im Jahr 2021 innerhalb von drei Monaten mehr als 5 Milliarden Robocalls an mehr als 500 Millionen Telefonnummern tätigte. Im Jahr 2020 verhängte die Behörde außerdem Geldstrafen in Höhe von 225 Millionen US-Dollar für irreführende Robocalls.

Das Erzeugen der Stimmen von Familienmitgliedern ist für Kriminelle zu einem gängigen Mittel geworden, um ahnungslosen Opfern Geld zu stehlen. Diese Kriminalität nimmt weiter zu, da KI-generierte Technologie immer zugänglicher, billiger und überzeugender wird.