Moderne KI-generierte Tools, die in der Lage sind, echte menschliche Stimmen zu imitieren, sind sowohl beeindruckend als auch besorgniserregend. Von Phishing-Betrügereien bis hin zu Wahleinmischung: Jede unterhaltsame oder nützliche Anwendung verfügt über mindestens eine bösartige Anwendung. Nun hat auch die US-amerikanische Federal Trade Commission (FTC) dies zur Kenntnis genommen und erstmals Maßnahmen ergriffen. Anfang dieser Woche begann das Komitee, Anmeldungen für die Voice Cloning Challenge entgegenzunehmen, berichtete BleepingComputer.
Die Regierungsbehörde hofft, einige nützliche Ideen zu erhalten, um das Problem der betrügerischen oder unbefugten Nutzung von KI-basierten Systemen zum Klonen von Stimmen anzugehen. Teilnehmer können Vorschläge für mindestens einen der folgenden Interventionspunkte einreichen:
Prävention oder Authentifizierung: Es muss eine Methode bereitgestellt werden, um die Verwendung oder Anwendung von Voice-Cloning-Software durch nicht autorisierte Benutzer einzuschränken.
Erkennung oder Überwachung in Echtzeit: Es müssen Methoden bereitgestellt werden, um geklonte Stimmen zu erkennen oder die Technologie zum Klonen von Stimmen zu verwenden. oder
Nachnutzungsbewertung: Es muss eine Methode bereitgestellt werden, um zu überprüfen, ob ein Audioclip geklonte Sprache enthält.
Gemäß den Regeln müssen alle eingereichten Vorschläge eine kurze Textbeschreibung des vorgeschlagenen Vorschlags und eine ausführliche schriftliche Begründung enthalten.
Die Wettbewerbsrichter bewerten die Vorschläge in drei Hauptbereichen: Verwaltbarkeit und Durchführbarkeit; verbesserte Unternehmensverantwortung und geringere Verbraucherbelastung; und Belastbarkeit. Dies bedeutet, dass die vorgeschlagenen Lösungen unter Berücksichtigung der praktischen Möglichkeiten, die Entwicklern von KI-Tools zur Verfügung stehen, relativ einfach in die Praxis umsetzbar und möglichst zukunftssicher sein sollten.
Der Gesamtsieger des Wettbewerbs erhält einen Bonus von 25.000 US-Dollar und der Zweitplatzierte einen Bonus von 4.000 US-Dollar. Bis zu drei ehrenvolle Erwähnungen (eine pro Interventionsort) erhalten jeweils 2.000 US-Dollar.
Dennoch sagt die FTC, dass keine Ergebnisse vorliegen – wenn auch besorgniserregende. Wenn keine tragfähigen Ideen auftauchen, bedeutet das, dass die technischen Herausforderungen schwieriger sind als erwartet und die notwendigen Gesetzesänderungen zur Entwicklung von Richtlinien für den Einsatz solcher KI-Tools auslösen sollten.
Der offene Wettbewerb dauert bis zum 12. Januar und die Ergebnisse werden „Anfang 2024“ bekannt gegeben.
Erfahren Sie mehr:
https://www.ftc.gov/news-events/contests/ftc-voice-cloning-challenge