Zusammenfassung:
Am 11. September veröffentlichte Anthropic den neuesten KI-Missbrauchsbericht, der besagt, dass das App Development Studio Claude für die Entwicklung und den Betrieb von mehr als 20 Dating-Apps eingesetzt hat. Die Plattform behauptet, dass alle Benutzer echte Menschen seien, aber etwa 75 % der Übereinstimmungen, die normale Benutzer erhalten, seien KI-Charaktere.
Anthropic gab an, dass diese Dating-Software während eines zweiwöchigen Beobachtungszeitraums im April 2026 mehr als 4.700 KI-Zeichen ausführte, mit mindestens 25.000 verschiedenen Benutzern chattete und insgesamt etwa 2,36 Millionen Nachrichten verschickte. Bei den Betroffenen handelt es sich hauptsächlich um amerikanische Nutzer, deren Alter, Geschlecht und konkrete Verlusthöhe wurden in dem Bericht jedoch nicht bekannt gegeben.
Für diese Benutzer ist es schwierig zu beurteilen, ob die Person, mit der sie chatten, echt oder eine Fälschung ist. Die Plattform zeigt Materialien in einem Verhältnis von etwa 3 KI-Charakteren zu 1 realen Person an. Claude ist dafür verantwortlich, Tausende von Gesprächen gleichzeitig zu führen, und menschliche Teilzeitkräfte sind da, um Misstrauen zu zerstreuen, wenn Benutzer nach Videoanrufen oder Fotos fragen oder sozialen Konten folgen.
Auch menschliche Teilzeitbeschäftigte werden durch KI unterstützt. Das System generiert für jede Nachricht drei alternative Antworten, und Teilzeitkräfte müssen nur eine davon zum Senden auswählen. Sie werden entsprechend der Anzahl der Chat-Nachrichten, Videoanrufe und Check-Ins auf sozialen Plattformen bezahlt und können nach Erreichen einer niedrigen Auszahlungsschwelle abgerechnet werden.
Bei Konten, die vollständig von KI kontrolliert werden, verlangt der Betreiber von Claude, nicht zuzugeben, dass er ein Roboter ist. Wenn der Benutzer eine Video- oder Fotoanfrage stellt, findet die KI Gründe, dies zu vermeiden, und treibt die Beziehung schrittweise entsprechend den voreingestellten Stufen voran. Das Backend erstellt außerdem gefälschte Likes, Besucherdatensätze und vorab aufgezeichnete Videos und markiert Benutzer, die den Verdacht hegen, dass sie Roboter sind.
Benutzer müssen Credits verbrauchen, um auf der Plattform chatten und matchen zu können. Nach dem Aufladen müssen sie zum Aufladen eine virtuelle In-App-Währung kaufen. Dieses Modell ähnelt dem „Beng Laotou“-Betrug, von dem kürzlich im chinesischen Internet die Rede war. Beide verwenden gefälschte weibliche Rollen und kontinuierliches Chatten, um Männer zum Bezahlen zu bewegen.
In dem Bericht wurde auch erwähnt, dass einige Benutzer in einigen zufälligen Gesprächen offenbarten, dass sie an schweren Krankheiten litten oder unter extremen Schmerzen litten. Claudes interne Überlegungen haben einen potenziellen Schaden identifiziert, er chattet jedoch weiterhin unter der fiktiven Identität, ohne das Gespräch zu verlassen.
Um eine App-Store-Überprüfung zu vermeiden, hat der Betreiber außerdem eine spezielle Schnittstelle für die Software entwickelt, die nur während des Überprüfungszeitraums aktiviert ist. Mehr als 20 Apps verwendeten unterschiedliche Programmklassennamen, um den Erkennungsmechanismen von Apple und Google zur Identifizierung ähnlicher Apps zu entgehen. Der Zugang zur Drittanbieter-Zahlungsplattform kann auch vom Server ferngesteuert und während des Überprüfungszeitraums vorübergehend ausgeblendet werden.
Zu den von Anthropic offengelegten relevanten Dating-Softwaremarken gehören DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO und LOVIA usw. Das Unternehmen hat relevante Konten gesperrt und Informationen zur App-Identität und zur Umgehung von Bewertungen an Apple und Google weitergegeben.
Es sollte betont werden, dass die oben genannten Ergebnisse aus der einseitigen Offenlegung durch Anthropic stammen und noch nicht von einem unabhängigen Dritten überprüft wurden. In dem Bericht wurde weder der Name des beteiligten Anwendungsstudios genannt, noch wurde offengelegt, ob Benutzer den Fall gemeldet hatten oder wie hoch der tatsächliche Betrag des Betrugs war.
Kommentare