Zusammenfassung:
OpenAI hat kürzlich ein Sicherheitsforschungsergebnis bekannt gegeben, das in der Branche große Aufmerksamkeit erregt hat. Das Unternehmen sagte, dass eines seiner kommenden Cybersicherheits-spezifischen Modelle für künstliche Intelligenz erfolgreich 948 lokale Sicherheitslücken bei der Rechteausweitung im Linux-Kernel entdeckt habe. Sobald diese Schwachstellen ausgenutzt werden, können normale lokale Benutzer die höchste Stufe an Root-Rechten auf dem System erlangen.
Der Linux-Kernel ist eine der wichtigsten Software-Infrastrukturen der Welt und wird häufig in Geräten und Systemen wie Android-Smartphones, Cloud-Computing-Plattformen, Rechenzentrumsservern und Supercomputern verwendet. Aufgrund der extrem großen Codegröße war das Auffinden potenzieller Sicherheitslücken schon immer eine zeitaufwändige und komplexe Aufgabe.
OpenAI sagte, dass diese Forschung nicht einfach das KI-Modell zum Auffinden von Schwachstellen erfordert, sondern einen vollständigen mehrstufigen automatisierten Sicherheitsforschungsprozess aufbaut, um Prüfarbeiten im industriellen Maßstab am Linux-Kernel durchzuführen. Das gesamte System wird gemeinsam von mehreren dedizierten KI-Agenten vervollständigt und alles von der Zielüberprüfung, Schwachstellenanalyse, Schwachstellenüberprüfung bis hin zu Exploit-Tests und Patch-Generierung ist automatisiert.
In der ersten Stufe analysiert der KI-Agent namens „Scout“ zunächst die Kernel-Codebasis und filtert Funktionsmodule und Dateien heraus, die für normale Benutzer zugänglich sind. Am Ende identifizierte das System etwa 2,8 Millionen Zeilen Schlüsselcode aus mehr als 40 Millionen Codezeilen als Prüfziele, was etwa 7 % der gesamten Codegröße des Linux-Kernels ausmacht. Insgesamt wurden 5.034 potenzielle Ziele für eine eingehende Untersuchung ausgewählt.
Anschließend führte der „Analyst“-Agent eine Sicherheitsanalyse dieser Codes durch und fand innerhalb von 12 Stunden 2.308 potenzielle Schwachstellenkandidaten. Seitdem hat der „Triage“-Agent diese Ergebnisse in einer isolierten virtuellen Maschinenumgebung reproduziert und überprüft und dabei in etwa 30 Stunden 1.724 echte Schwachstellen erfolgreich bestätigt.
Nach Abschluss der Überprüfung bewertet das KI-System die Ausnutzbarkeit dieser Schwachstellen weiter. Schließlich wurden 291 Proof-of-Concept-Programme für Informationsleck-Schwachstellen sowie 1169 effektive Angriffsbeispiele erstellt, mit denen eine lokale Privilegieneskalation erreicht werden kann. Nach der Analyse und Klassifizierung von Duplikaten bestätigte das Forschungsteam, dass es 948 unabhängige Schwachstellen gab.
OpenAI gab an, dass diese Angriffsbeispiele in einer Standard-Desktop-Systemumgebung mit aktivierten modernen Linux-Sicherheitsschutzmechanismen getestet wurden, einschließlich gängiger Schutztechnologien wie KASLR, SMEP und SMAP. Dies bedeutet, dass die entsprechenden Schwachstellen auch in Umgebungen mit üblichen Sicherheitsmaßnahmen noch ausgenutzt werden können.
Was noch besorgniserregender ist, ist, dass die Forscher behaupteten, dass das KI-System während des Analyseprozesses mindestens zehn bisher nicht erfasste Techniken zur Ausnutzung von Linux-Schwachstellen entdeckt und verwendet habe. Dazu gehören neue Kernel-Object-Spraying-Methoden, Speicher-Paging-Techniken und mehrere Datenangriffe, die eine Rechteausweitung ohne herkömmliche Codeausführung ermöglichen. Aus Sicherheitsgründen gibt OpenAI die spezifischen Details dieser Technologien nicht bekannt.
Daten zeigen, dass das gesamte Projekt insgesamt etwa 1,21 Millionen US-Dollar an API-Rechenressourcen verbrauchte und die durchschnittlichen Kosten für jede Entdeckung einer verfügbaren Sicherheitslücke bei der Rechteausweitung etwa 1.279 US-Dollar betrugen. OpenAI wies darauf hin, dass basierend auf früheren Standards für Schwachstellen-Belohnungsprogramme in der Sicherheitsbranche der potenzielle Gesamtprämienwert für diese 948 Schwachstellen zwischen 18,9 und 66,3 Millionen US-Dollar betragen könnte.
Während des Forschungszeitraums hat OpenAI damit begonnen, Schwachstellenberichte und Reparaturpläne an die Linux-Wartungsgemeinschaft zu übermitteln. Das Unternehmen gab an, dass während des zehntägigen koordinierten Offenlegungsprozesses 61 Sicherheitslücken im Zusammenhang mit der Rechteausweitung offiziell gepatcht wurden, 43 Sicherheitslücken in die Patch-Testphase eingetreten sind und weitere 299 Sicherheitslücken sich im öffentlichen Diskussions- und Überprüfungsprozess befinden.
Dieser Erfolg zeigt auch die zunehmenden Fähigkeiten künstlicher Intelligenz im Bereich der Netzwerksicherheit. Im Juni dieses Jahres gab OpenAI bekannt, dass sein GPT-5.5-Cyber-Modell 24 Schwachstellen bei der Eskalation von Linux-Privilegien entdeckt und überprüft hat; In einem weiteren im Juli durchgeführten Test entdeckte das Modell des Unternehmens 166 unabhängige Schwachstellen. Im Vergleich dazu hat sich die Zahl der 948 Schwachstellen, die bei diesem jüngsten Experiment entdeckt wurden, um mehr als das Fünffache erhöht, obwohl der Linux-Kernel in den letzten Monaten einer umfassenden Sicherheitsverstärkung unterzogen wurde.
OpenAI geht davon aus, dass die Arbeit zur Schwachstellenerkennung in Zukunft immer umfangreicher und automatisierter werden wird. Schwachstellen-Mining-Aufgaben, für deren Ausführung Sicherheitsforscher früher Wochen oder sogar Monate brauchten, entwickeln sich heute nach und nach zu standardisierten Prozessen, die kontinuierlich von Systemen der künstlichen Intelligenz ausgeführt werden. Das Unternehmen betont jedoch auch, dass menschliche Forscher nach wie vor unerlässlich sind, da wichtige Zusammenhänge wie die Identifizierung von Schwachstellen, die Folgenabschätzung und die Offenlegung der Haftung weiterhin eine professionelle Beteiligung an der Überprüfung erfordern.
Da sich die Fähigkeiten von KI-Modellen weiter verbessern, tritt die Netzwerksicherheitsbranche in eine neue Phase ein. Einerseits können Verteidiger künstliche Intelligenz nutzen, um Schwachstellen in beispielloser Geschwindigkeit zu entdecken und zu schließen; Andererseits bedeutet diese Technologie auch, dass Angreifer in Zukunft möglicherweise Zugriff auf leistungsfähigere automatisierte Angriffstools haben. Wie man ein Gleichgewicht zwischen der Verbesserung der Verteidigungseffizienz und der Verhinderung von Missbrauchsrisiken schafft, wird im gesamten Bereich der Netzwerksicherheit immer wichtiger.
Kommentare