Microsoft hat ein Gerichtsverfahren gegen ein Netzwerk von Cyberkriminellen wegen angeblichen Missbrauchs generativer KI-Technologie, einschließlich seines eigenen Azure Open AI-Dienstes, eingeleitet. In einer geänderten Beschwerde im Zusammenhang mit einer aktuellen Zivilklage nannte der Technologieriese vier Schlüsselentwickler hinter bösartigen Tools, die das Schutznetz seiner Dienste für künstliche Intelligenz umgehen sollen. Zu den genannten Angeklagten gehören:
Arian Yadegarnia (alias „Fizz“) – lebt im Iran
Alan Krysiak (alias „Drago“) – lebt im Vereinigten Königreich
Ricky Yuen (alias „cg-dot“) – lebt in Hongkong
Phát Phùng Tấn (alias „Asakuri“) – lebt in Vietnam
Diese Personen sind das Herzstück dessen, was Microsoft Storm-2139 nennt, ein globales Netzwerk zur Cyberkriminalität. Mitglieder des Netzwerks nutzten angeblich öffentliche Kundenzugangsdaten, um sich unbefugten Zugriff auf generative KI-Dienste zu verschaffen. Anschließend modifizierten sie diese Dienste und verkauften den Zugang an andere böswillige Akteure weiter, sogar mit ausdrücklichen Anweisungen zur Erstellung schädlicher Inhalte, einschließlich nicht einvernehmlicher intimer Bilder von Prominenten und anderem expliziten Material.
Die Untersuchung von Microsoft beschreibt Storm-2139 als eine Organisation, die in drei Schlüsselschichten unterteilt ist:
Ersteller: Ein Entwickler, der ein Tool erstellt, das einen KI-Dienst missbrauchen kann.
Anbieter: Eine Person, die diese Tools entsprechend unterschiedlicher Servicestufen und Preisstrukturen modifiziert, bereitstellt und liefert. .
Benutzer: Endbenutzer, die diese Tools verwenden, um verbotene synthetische Inhalte zu generieren, die häufig auf Prominente abzielen oder sexuell eindeutige Bilder erstellen. .
Im Dezember 2024 reichte die Digital Crimes Unit (DCU) von Microsoft ihre erste Klage im Eastern District von Virginia ein, die es Microsoft ermöglichte, eine wichtige Website zu beschlagnahmen, die von cyberkriminellen Netzwerken genutzt wird, und dadurch ihre operativen Fähigkeiten erheblich einzuschränken. Die im Januar veröffentlichten Rechtsdokumente lösten eine sofortige Reaktion innerhalb des Netzwerks aus. In überwachten Kommunikationskanälen begannen die Mitglieder über die Identität des in den Fall verwickelten „John Doss“ zu spekulieren und versuchten in einigen Fällen, anderen Mitgliedern der Operation die Schuld zuzuschieben.
Darüber hinaus erhielt die Rechtsabteilung von Microsoft mehrere E-Mails von mutmaßlichen Mitgliedern von Storm-2139, die darauf abzielten, die Schuld von sich abzuwälzen und auf andere Aktivisten zu zeigen. Darüber hinaus wurde auch festgestellt, dass jemand eine „offene Box“ gegen den Rechtsbeistand von Microsoft eröffnet und persönliche Informationen und Fotos online verbreitet hat. Diese Methode kann in der Praxis schwerwiegende Folgen haben, etwa Identitätsdiebstahl und Belästigung.
Die Bemühungen von Microsoft sind Teil eines umfassenderen Engagements zur Eindämmung des Missbrauchs generativer KI. Während der Riese anerkennt, dass die Zerschlagung eines so fest verwurzelten Netzwerks von Cyberkriminellen ein langfristiger Kampf ist, stellen die rechtlichen Schritte und Betriebsunterbrechungen, die darauf abzielen, diese böswilligen Akteure aufzudecken, einen wichtigen Schritt nach vorne dar. Durch die Aufdeckung der geheimen Aktivitäten von Storm-2139 beabsichtigt das Unternehmen nicht nur, aktuelle Netzwerke zu zerstören, sondern auch zukünftige Versuche zu vereiteln, künstliche Intelligenz als Waffe einzusetzen.
Insgesamt verdeutlicht dieser Fall die Herausforderungen, die Cyberkriminelle im digitalen Zeitalter mit sich bringen, und die Notwendigkeit eines kontinuierlichen, koordinierten Schutzes innovativer Technologien vor Missbrauch.