Zuvor hatten Sicherheitsforscher aufgedeckt, dass Instagram, das der Social-Media-Gruppe Meta gehört, große Sicherheitsprobleme aufweist. Der von der Plattform verwendete KI-Assistent zur Kontowiederherstellung weist eine logische Schwachstelle auf. Hacker können direkt mit dem KI-Assistenten zur Kontowiederherstellung sprechen, um das Zurücksetzen des Passworts eines bestimmten Kontos anzufordern und die gebundene E-Mail-Adresse in eine vom Hacker kontrollierte E-Mail-Adresse zu ändern. Während des gesamten Prozesses erfordert der AI-Kontowiederherstellungsassistent keine Überprüfung durch den Initiator.
Die schwarzen und grauen Banden haben es vor allem auf hochwertige Instagram-Konten abgesehen. Die von diesen Konten verwendeten Benutzer-IDs sind normalerweise sehr kurz. Hacker haben durch die Übernahme dieser Konten und den Weiterverkauf dieser Konten illegale Gewinne in Höhe von mehr als einer Million US-Dollar erzielt. Nach der Aufdeckung durch Sicherheitsforscher veröffentlichte Meta eine Nachricht, in der es hieß, dass die Schwachstelle behoben wurde und die gestohlenen Konten verarbeitet werden.
Die Lösung besteht darin, den KI-Assistenten in der Front-End-Oberfläche auszublenden:
Selbst nachdem Meta angab, die Schwachstelle behoben zu haben, wurden immer noch Benutzerkonten gestohlen. Sogar Metas eigene Produktmanagement-Direktorin Esther Crawford (ehemals Produktmanagement-Direktorin bei X/Twitter) wurde von Hackern ihr Instagram-Konto gestohlen. Warum ist dieses Problem aufgetreten? Da Meta die Schwachstelle überhaupt nicht behoben hat, hat es den KI-Assistenten zur Kontowiederherstellung einfach auf der Front-End-Seite ausgeblendet.
Erfahrene Hacker können leicht feststellen, dass der API-Endpunkt des AI Account Recovery Assistant weiterhin zugänglich ist, sodass die schwarzen und grauen Produktionsbanden direkt Telegram-Roboter und Skripttools erstellen, um über die API mit dem AI Account Recovery Assistant zu interagieren. Dieser Vorgang ist noch einfacher als der manuelle Zugriff über die Front-End-Schnittstelle, was bedeutet, dass der gesamte Vorgang effizienter ist und es den schwarzen und grauen Produktionsbanden ermöglicht, schneller mehr Konten zu stehlen.
Der gesamte Angriffsprozess umfasst weder die Datenbank noch den Back-End-Server von Meta oder die Ausnutzung von Schwachstellen. Es nutzt lediglich das High-Privilege-Logikproblem des AI Account Recovery Assistant aus. Das heißt, Meta gewährt dem AI Account Recovery Assistant zu hohe Berechtigungen, schützt aber nicht vor Prompt-Word-Angriffen. Daher können Hacker mit Aufforderungsworten den AI Account Recovery Assistant dazu verleiten, mit dem Hacker zusammenzuarbeiten, um das Passwort eines bestimmten Kontos und die gebundene E-Mail-Adresse zurückzusetzen.
Die Aktivierung der 2FA-Verifizierung verhindert keinen Diebstahl:
In früheren Berichten wurde erwähnt, dass ein Benutzerkonto, das an die 2FA-Verifizierung gebunden ist, nicht gestohlen werden kann, da der KI-Assistent zur Kontowiederherstellung den 2FA-Schutz nicht direkt umgehen kann. Allerdings kann die Situation jetzt etwas anders sein. Nachdem Meta die Lösung angekündigt hatte, wurde auch das Konto der berühmten Reverse Engineerin Jane Manchun Wong gestohlen, und ihr Konto selbst hatte die 2FA-Verifizierung aktiviert.
Unter diesem Gesichtspunkt kann der AI Account Recovery Assistant möglicherweise die 2FA-Verifizierung aufheben, die der Benutzer nach dem Zurücksetzen der E-Mail gebunden hat. Normalerweise ist es nicht möglich, 2FA direkt per E-Mail zu entbinden. Es wird geschätzt, dass Hacker eine Art Aufforderungswort verwendet haben, um den AI Account Recovery Assistant dazu zu bewegen, die 2FA-Überprüfung des Kontos aufzuheben. Daher ist die aktuelle Situation sehr verwirrend und Meta hat keine Informationen veröffentlicht, um auf diese Angelegenheit zu reagieren.