Zusammenfassung:
Cybersicherheitsforscher haben kürzlich eine ungewöhnliche neue Art von Windows-Malware entdeckt. Im Gegensatz zu früheren Angriffstools, die künstliche Intelligenz zur Unterstützung beim Schreiben von Codes oder beim Erstellen von Phishing-Inhalten nutzten, bindet diese Malware namens CLOSEDQUORUM direkt mehrere große Sprachmodelle in ihr eigenes Steuerungssystem ein und kann während des Betriebs selbstständig über den nächsten Schritt entscheiden. Es gilt als eine neue Stufe in der Entwicklung von KI-Malware.
Die Entdeckung stammt von Cisco Talos, einem Sicherheitsteam von Cisco. Forscher sagten, dass CLOSEDQUORUM gleichzeitig mit vier großen Sprachmodellen interagieren wird: DeepSeek, Qwen, Mistral und Google Gemini. Bevor Aufgaben auf dem infizierten Gerät ausgeführt werden, sendet es zunächst Anfragen an diese Modelle, sammelt Feedback und entscheidet dann auf der Grundlage der Ergebnisse über weitere Aktionen.
Dieses Design verleiht der Malware ein gewisses Maß an Redundanz. Auch wenn einer der KI-Dienste nicht erreichbar ist, kann das Programm weiterhin Anfragen an andere Modelle stellen und weiterlaufen, wodurch es widerstandsfähiger ist als herkömmliche Malware, die auf einen einzigen Kontrollserver angewiesen ist.
Noch besorgniserregender ist, dass die Forscher in der Stichprobe keine manuellen Fernbedienungseingänge im herkömmlichen Sinne fanden. Mit anderen Worten: Sobald das Programm gestartet ist, muss es nicht weiterhin spezifische Anweisungen vom Hacker erhalten, sondern plant selbstständig nachfolgende Vorgänge anhand des Feedbacks mehrerer großer Sprachmodelle.
Den Analyseergebnissen zufolge besteht das Hauptziel von CLOSEDQUORUM darin, Passwörter von Benutzerkonten und Kryptowährungsbestände zu stehlen. Das Forschungsteam stellte außerdem fest, dass die Schadsoftware mit Netzwerkaktivitäten für Kreditkartenbetrug aus dem Jahr 2025 zusammenhängt. Bisher konnten die Forscher jedoch weder die Identität des konkreten Entwicklers bestätigen noch feststellen, ob das Tool bei echten Angriffen eingesetzt wurde.
Diese Entdeckung geht auf eine neue Forschungsinitiative von Cisco Talos zurück. Als Reaktion auf den Trend, dass immer mehr künstliche Intelligenz in Angriffstools integriert wird, haben Forscher ein Open-Source-Framework namens CAIRN (Cognitive Artifact Intelligence Research Network) entwickelt, um Malware zu identifizieren und zu verfolgen, deren Ausführung auf KI-Dienste angewiesen ist.
Das Forscherteam geht davon aus, dass die Kombination aus künstlicher Intelligenz und Malware besondere technische Spuren hinterlassen wird, genau wie ein digitaler Fingerabdruck. Diese Spuren können Sicherheitsanalysten dabei helfen, Proben zu identifizieren, Klassifizierungssysteme einzurichten und zu verfolgen, wie Angreifer große Sprachmodelle in Angriffstools integrieren.
CAIRN analysiert Metadaten in Malware und technische Merkmale im Zusammenhang mit KI-Diensten und generiert eine eindeutige Kennung für die Probe. Das System kategorisiert dann Malware mit ähnlichen Merkmalen und hilft Forschern so, neue Angriffsmuster und potenzielle Trends zu identifizieren.
Sicherheitsexperten weisen darauf hin, dass die meisten KI-bezogenen Schadprogramme, die im vergangenen Jahr aufgetaucht sind, immer noch hauptsächlich große Modelle als Hilfstools verwenden. Helfen Sie beispielsweise dabei, Code zu generieren, Phishing-E-Mails zu schreiben, Angriffsprozesse zu automatisieren oder Remote-Entscheidungsunterstützung bereitzustellen. Der größte Unterschied zwischen CLOSEDQUORUM und diesen Fällen besteht darin, dass das große Sprachmodell direkt in den Befehls- und Kontrollmechanismus selbst integriert wird.
Zuvor hatte die ukrainische Cybersicherheitsbehörde eine Malware namens LAMEHUG aufgedeckt, die über die Hugging Face-Plattform auf das Tongyi Qianwen-Modell zugegriffen hat, um Ausführungsbefehle zu erhalten. Forscher sagen jedoch, dass Fälle wie CLOSEDQUORUM, die mehrere Modelle gleichzeitig aufrufen und den Angriffsprozess in einer „kollektiven Entscheidungsfindung“ vorantreiben, immer noch sehr selten sind.
Obwohl die Zahl der derzeit bekannten KI-Malware noch begrenzt ist, ist die Sicherheitsgemeinschaft im Allgemeinen der Ansicht, dass die Entwicklungsrichtung solcher Tools große Aufmerksamkeit verdient. In der Vergangenheit spielten große Modelle eher eine Rolle bei der Verbesserung der Produktivität von Hackern; Jetzt beobachten Forscher eine allmähliche Verlagerung der künstlichen Intelligenz von „Hilfswerkzeugen“ hin zum Angriff auf die Infrastruktur selbst.
Brancheninsider gehen davon aus, dass künftige Malware im Zuge der weiteren Verbesserung der Fähigkeiten großer Sprachmodelle über stärkere Fähigkeiten zur autonomen Entscheidungsfindung, eine komplexere Anpassungsfähigkeit an die Umgebung und flexiblere Möglichkeiten zur Auswahl von Angriffspfaden verfügen könnte. Obwohl sich diese Entdeckung noch in einem frühen Stadium befindet, hat sie Sicherheitsforschern einen frühen Einblick in die mögliche Entwicklung intelligenter Cyberangriffe der nächsten Generation gegeben.
Kommentare