Hacker behaupten, sie hätten den KI-gestützten Chatbot von Meta genutzt, um mehrere hochkarätige Instagram-Konten erfolgreich zu kompromittieren, indem sie den Bot direkt aufgefordert hätten, die mit dem Zielkonto verknüpfte E-Mail-Adresse in eine neue zu ändern. Die Behauptungen stehen im Einklang mit einer Reihe kürzlich erfolgter Übernahmen von Social-Media-Konten, darunter denen des Weißen Hauses von Barack Obama, des Chief Master Sergeant der U.S. Space Force und von Sephora.
Der Bericht wies darauf hin, dass dieser Vorfall die enormen Risiken einer übermäßigen Beauftragung von KI-Chatbots mit Supportdiensten oder Schlüsselfunktionen aufdeckte. Opfer gaben an, dass sie nach dem Diebstahl ihrer Konten fast keine Möglichkeit hatten, auf manuelle Verarbeitung umzusteigen, und nur mit automatisierten Systemen zurechtkommen konnten. Meta gab im März dieses Jahres bekannt, dass es die KI-Unterstützung für alle Konten auf Facebook und Instagram einführen und ihnen die Möglichkeit geben wird, Passwörter zurückzusetzen und andere wichtige Kontopflegevorgänge durchzuführen. Auf der Produktseite standen sogar „Lösungen, nicht nur Vorschläge“ und „Kontosicherheit und -wiederherstellung“.
In den letzten Tagen haben Sicherheitsforscher und Hackergruppen auf Telegram Videos und Screenshots verbreitet, die den scheinbar einfachen Vorgang des Hackens von Konten zeigen. Eines der Videos zeigt, wie der Hacker mit dem KI-gestützten Bot von Meta spricht und ihn dann auffordert, das Zielkonto an eine neue E-Mail-Adresse zu binden und direkt den Zielbenutzernamen anzugeben, wie der Bestätigungscode gesendet werden soll, und die E-Mail-Adresse des Angreifers. Der Bericht geht davon aus, dass solche Fälle veranschaulichen, dass der Einsatz von KI zur Abwicklung hochsensibler Kontovorgänge sehr schwerwiegend sein kann, sobald es zu sofortigem Word-Spoofing oder Prozesslücken kommt.