Zusammenfassung:
OpenAI sagte, dass sein kommendes Astra-Modell bisher unbekannte Software-Schwachstellen entdecken und sie in Exploit-Code umwandeln kann, der Angriffe ausführen kann, ohne dass eine menschliche Schritt-für-Schritt-Anleitung erforderlich ist – was bedeutet, dass das Modell eine Schwelle bei Cybersicherheitsfähigkeiten überschritten hat, die bisher hauptsächlich den Top-Hacker-Teams vorbehalten waren.
Das Unternehmen sagte am Dienstag in einem Blogbeitrag, dass der Astra das erste Modell sei, das in seinem „Bereitschaftsrahmen“ als „kritisch“ eingestuft wurde.
Um dieses Niveau zu erreichen, müssen Modelle in der Lage sein, bisher unbekannte Software-Schwachstellen (d. h. Zero-Day-Schwachstellen) ohne menschliches Eingreifen zu entdecken und brauchbare Angriffe gegen gehärtete reale Systeme zu entwickeln oder Angriffe ausschließlich auf der Grundlage übergeordneter Ziele zu entwerfen und auszuführen.
Bei Tests erreichte Astra eine 100-prozentige Punktzahl in einem Benchmark-Test, bei dem bekannte Schwachstellen ausgenutzt und zwei bisher unbekannte Schwachstellen entdeckt wurden, während in einem anderen internen Test eine Angriffskette aufgebaut wurde.
In einem Test, der zeigen sollte, ob ein Modell bei extrem schwierigen oder unmöglichen Hacking-Aufgaben „schummeln“ würde, war es wahrscheinlicher, dass GPT-5.6 Sol verbotene Abkürzungen nutzte, während Astra dies nicht tat, während einige Aufgaben dennoch legal gelöst wurden.
OpenAI sagte außerdem, dass Astra die gehärtete Browser-Sandbox erfolgreich durchbrochen und Befehle auf dem Host-Computer ausgeführt habe; Darüber hinaus wurden mehrere Schwachstellen im Betriebssystem entdeckt und kombiniert, um Root-Rechte zu erlangen.
Das Unternehmen verzögerte daraufhin die Entwicklung einiger Astra-Funktionen, fügte jedoch Sicherheitsvorkehrungen hinzu und plant, seine fortschrittlichsten Cybersicherheitsfunktionen zunächst nur ausgewählten Testern zugänglich zu machen.
Diese Funktion ist besonders relevant für den Kryptowährungsbereich, da ein Softwarefehler innerhalb von Minuten in echte Gewinne umgewandelt werden kann. Berichten zufolge ergab eine Analyse im Juni dieses Jahres, dass immer leistungsfähigere KI-Modelle den Prozess der Codesuche, der Entdeckung von Fehlkonfigurationen und der Zusammenstellung von Angriffen von Tagen oder Wochen auf Operationen in Maschinengeschwindigkeit verkürzen können.
Sicherheitsforscher sagten damals, dass die größere Veränderung nicht unbedingt völlig neue Angriffstypen sein würde, sondern dass die Geschwindigkeit, mit der bestehende Schwachstellen gefunden und ausgenutzt würden, deutlich zunehmen würde.
Diese Entwicklung zeigt auch, dass moderne Modelle über das „Beantworten von Fragen“ und das „Schreiben von Code“ hinausgehen. Im Juli dieses Jahres half ein KI-System namens Claude Fable 5 dabei, ein 87 Jahre altes mathematisches Rätsel zu lösen.
Kommentare