Zusammenfassung:
Der illegale Zugriff auf KI-Modelle und Rechenleistung wird schnell zum heißesten Gut in der Unterwelt der Cyberkriminellen. Hacker versuchen, teure große Sprachmodelle für Erpressung, Kriegsführung und Spionage auszunutzen. John Hultquist, Chefanalyst bei der Google Threat Intelligence Group, sagte, die Cybersicherheitsgruppe habe in diesem Jahr einen erheblichen Anstieg sogenannter „LLM-Jacking“-Angriffe verzeichnet, zu denen der Verkauf gestohlener Anmeldeinformationen für öffentliche KI-Tools und der Diebstahl von Computerressourcen durch Gruppen gehört, um ihre eigenen Modelle kostenlos auszuführen.
„Was wir auf dem Untergrundmarkt sehen, ist eine wachsende Wirtschaft rund um den KI-Zugang“, sagte Hultquist, ein 20-jähriger Cybersicherheitsveteran.
Hultquist warnte davor, dass die Beschaffung teurer KI-Ressourcen zu geringen Kosten Cyber-Angreifern einen finanziellen Vorteil gegenüber ihren Zielen verschafft, die diese KI-Tools auch zu ihrem Schutz nutzen müssen.
Er sagte: „Letztendlich verschaffen ihnen all diese Maßnahmen eine Art wirtschaftlichen oder Effizienzvorteil gegenüber uns, weil sie diese Token tatsächlich zu einem viel günstigeren Preis erhalten können.“
Forscher der Threat Intelligence Unit von Google haben herausgefunden, dass einige Marktplätze im Dark Web den Zugang zu KI-Modellen von Unternehmen wie Anthropic, Google und OpenAI mit Rabatten von bis zu 97 % verkaufen. Die fortschrittlichsten Versionen von ChatGPT und Claudes AI-Abonnementdienste kosten bis zu 200 US-Dollar pro Benutzer und Monat.
Angesichts der Tatsache, dass AI Labs auf Anzeichen eines solchen Missbrauchs überwacht, bieten einige Verkäufer sogar „garantierten Zugriff“ an und versprechen neue Anmeldeinformationen kostenlos, wenn das ursprüngliche Konto gesperrt wird, sagte Hultquist.
In anderen Fällen hacken sich kriminelle Banden und staatlich unterstützte Organisationen in Server ein, die von Unternehmen in der Cloud gehostet werden, und setzen ihre eigenen KI-Modelle ein, um sie auf Zielsystemen auszuführen. Dieser Ansatz ähnelt früheren Versuchen von Bedrohungsakteuren, Computer Dritter für das Kryptowährungs-Mining zu kompromittieren.
KI wird bereits von „allen Bedrohungsakteuren“ eingesetzt, sagte Hultquist und fügte hinzu, dass KI-Tools in Zukunft ein integraler Bestandteil von Cybersicherheitssystemen werden müssen. Im jüngsten vierteljährlichen Bericht von Anthropic über KI-Missbrauch stellte das Unternehmen fest, dass Bedrohungsakteure aus mehr als 20 Ländern, darunter den Vereinigten Staaten, dem Vereinigten Königreich und dem Jemen, versucht hatten, sein Claude-Tool für böswillige Aktivitäten zu nutzen.
Er sagte: „Jeder, der glaubt, dass KI nur eine Modeerscheinung ist und möchte, dass sie verschwindet, wird eines Tages aufwachen und feststellen, dass er überfordert ist. Er wird mit mehr Sicherheitsvorfällen, mehr Warnungen und mehr Angriffen konfrontiert sein als je zuvor. Wir müssen uns jetzt um unsere eigenen Angelegenheiten kümmern.“
Hultquist warnte davor, dass immer mehr große Unternehmen bestrebt sind, maßgeschneiderte KI-Modelle auf ihren eigenen Servern bereitzustellen, anstatt Rechenleistung von Cloud-Dienstanbietern zu mieten, und dass diese Systeme selbst auch Ziel von Angriffen werden und streng geschützt werden müssen. „Wenn Sie für Rechenleistung bezahlen und Rechenleistung sehr teuer sein kann … dann wird das in den Augen von Bedrohungsakteuren zu einer sehr attraktiven potenziellen Ressource.“
Hultquist sagte auch, dass jetzt der beste Zeitpunkt für Hacker sei, Zielkonten und Computerserver zu „infiltrieren“, da Unternehmen immer noch herausfinden, wie viele KI-Ressourcen sie verwenden werden.
Er sagte: „Sie denken vielleicht, dass ein plötzlicher und starker Anstieg des Rechenleistungsverbrauchs völlig normal ist, weil Sie gerade so viel KI-Infrastruktur bereitgestellt haben. Das gibt einigen Leuten tatsächlich die Möglichkeit, sich im Lärm zu verstecken.“
Kommentare