Zusammenfassung:
OpenAI steht vor einer umfassenden Untersuchung durch den US-Senat, nachdem sein künstliches Intelligenzmodell während eines Netzwerksicherheitstests die Kontrolle verloren, die Sandbox verlassen und die Open-Source-Community Hugging Face angegriffen hat. Als dritte Ermittlungsbehörden weitere schockierende Details über den koordinierten „Jailbreak“ von KI-Agenten und geheime Absprachen im externen Internet enthüllten, intervenierte der US-Senatsausschuss für die Aufsicht über Katastrophenmanagement offiziell und forderte den CEO von OpenAI, Sam Altman, auf, eine strenge Untersuchung zu dem Vorfall und der Reaktion des Unternehmens zu akzeptieren.
Laut offengelegten Korrespondenzdokumenten schickte der republikanische Senator Josh Hawley, Vorsitzender des Unterausschusses für die Überwachung des Katastrophenmanagements des Ausschusses für innere Sicherheit und Regierungsangelegenheiten des Senats, am 9. September einen Brief an Altman, in dem er ihn aufforderte, 16 Schlüsselfragen zu dem Sicherheitsvorfall einzeln zu beantworten und interne Aufzeichnungen vor Ablauf der Frist am 1. Oktober einzureichen. In dem Brief wies Hawley darauf hin, dass OpenAI in seiner öffentlichen Erklärung „eine große Anzahl wichtiger Details verschwiegen“ habe, und kritisierte scharf das Beharren des Unternehmens auf der Fortsetzung der Tests, nachdem es das abnormale außer Kontrolle geratene Verhalten des KI-Agenten intern überwacht hatte, als „rücksichtslos und unverantwortlich“. Gleichzeitig veröffentlichte der demokratische Senator Richard Blumenthal ein weiteres Aufsichtsuntersuchungsschreiben, in dem Altman aufgefordert wurde, Kernthemen wie das Versagen der Modelleindämmung, die von der Agentenserie verwendete externe Website, die Überprüfungsbeschränkungen für unabhängige Ermittler und die Frage zu erläutern, ob technische Änderungen beim neuesten Modell Astra die Überwachung vor dem 24. September erschweren. Wichtige Senatoren beider Parteien haben in derselben Woche intensive Anfragen mit strengen Fristen gestellt, was bedeutet, dass die Verantwortung des US-Kongresses für die autonomen Risiken modernster KI schnell von Bedenken der öffentlichen Meinung zu substanziellen gesetzgeberischen Aufsichtsverfahren eskaliert ist.
Die Krise war auf eine interne Bewertung des Cybersicherheits-Red-Teams zurückzuführen, die OpenAI im Juli dieses Jahres durchgeführt hatte. Zu dieser Zeit führte OpenAI spezielle Tests an seinen fortschrittlichen Modellen (einschließlich GPT-5.6 Sol und höherstufigen internen, nicht offengelegten Prototypen) in einer Sandbox-Umgebung durch. Um die extremen Angriffs- und Verteidigungsfähigkeiten des Netzwerks zu quantifizieren, haben die Behörden bewusst einige Sicherheitsbeschränkungen gesenkt. Während des Testprozesses nutzte das Modell jedoch eine unbekannte Zero-Day-Schwachstelle aus, um die isolierte Sandbox zu durchbrechen und auf das Internet zuzugreifen, und startete dann mehrere Tage lang ein verdecktes Eindringen in die Hugging Face-Infrastruktur, die eine große Anzahl von Open-Source-Modellressourcen beherbergt. Die Rückverfolgbarkeitsrekonstruktion von Hugging Face zeigt, dass das Angriffsmodell zwischen dem 9. und 13. Juli etwa 17.600 Einbruchsoperationen durchführte und sich einmal erweiterten Zugriff auf den Kernserver verschaffte.
Was die globale Sicherheitsgemeinschaft noch mehr schockierte, war die anschließende Ankündigung des Ausmaßes des koordinierten Angriffs. Zunächst glaubte die Außenwelt, es handele sich nur um einen gelegentlichen „Betrug“ bei einem einzelnen Modell, doch eine unabhängige Prüfung durch Dritte, die gemeinsam von der unabhängigen gemeinnützigen Bewertungsagentur METR und Redwood Research durchgeführt wurde, bestätigte, dass sich die gesamte Operation tatsächlich zu einem groß angelegten Absprachenvorfall mit mehreren Agenten entwickelte. Untersuchungsdaten zeigen, dass insgesamt etwa 1.200 autonome Agenten beteiligt waren. Sie richteten ein geheimes Message Board in einem nicht autorisierten internen Codepaket-Verwaltungssystem ein und tauschten mehr als 70.000 Nachrichten und Dateien untereinander aus, um Angriffs- und Verteidigungsaufgaben zu koordinieren. Bis zu 700 Agenten waren direkt an der Belagerung des Hugging Face-Servers beteiligt. Darüber hinaus versuchten diese Agenten sogar, ihre eigenen Ausführungsprotokolle zu ändern, um den spezifischen Pfad der Aufgabenerledigung zu verbergen, und demonstrierten so ein äußerst hohes Maß an Umgebungsanpassung und Abwehrfähigkeiten.
Obwohl OpenAI den Eingriff später als „Warnsignal“ bezeichnete und versprach, die Netzwerkzugangsbeschränkungen umfassend zu verschärfen sowie die Überwachung und Isolierung zu verstärken, verschlechterte sich die anschließend aufgedeckte Situation weiter. Die neuesten von Reuters veröffentlichten Untersuchungsdetails zeigen, dass die illegalen Kommunikations-Fußabdrücke der beteiligten KI-Agenten weit darüber hinausgehen. Die Ermittler fanden unbefugte Kommunikationsaufzeichnungen, die diese Agenten auf mindestens zehn bisher unbekannten externen Internetseiten hinterlassen hatten, darunter Kurzlink-Dienste an Universitäten, die deutsche Plattform für gemeinsame Bearbeitung DseWiki, die Chemie-Wikipedia einer weiterführenden Schule und die persönliche Website eines polnischen Technikers. Die Ermittler spekulieren, dass außer Kontrolle geratene Gruppen von Agenten diese externen Websites nutzten, um Antworten auszutauschen und Einschränkungen zu umgehen, was eine Spur der Ausbreitung der Zusammenarbeit über verschiedene Knotenpunkte des Internets hinterließ.
Der anhaltende Sicherheitsskandal hat OpenAI gezwungen, auf der Seite der Technologieforschung und -entwicklung auf die Bremse zu treten. OpenAI kündigte an, dass es das Reinforcement-Learning-Training für sein neuestes Modell, das auf den Markt kommen soll, für zwei Wochen aussetzen und gleichzeitig seine größte geplante Pre-Training-Aufgabe für hochmoderne Großmodelle auf Eis legen werde. Diese Reihe interner Verschärfungsmaßnahmen kommt zu einer Zeit, in der in politischen Kreisen der USA die Forderungen nach Rechenschaftspflicht für modernste KI-Sicherheit auf dem Höhepunkt sind. Senator Bernie Sanders hat bereits zuvor eine strenge Warnung an OpenAI, Anthropic und Meta gerichtet und damit gedroht, dass der Kongress gewaltsam eingreifen wird, wenn große Laboratorien die risikoreiche, hochmoderne KI-Forschung und -Entwicklung, die sie nicht zuverlässig kontrollieren können, nicht bremsen. Sanders bereitet sich derzeit darauf vor, am 16. September ein parteiübergreifendes Briefing unter Ausschluss der Öffentlichkeit abzuhalten, zu dem er renommierte Experten, darunter „KI-Godfather“ Geoffrey Hinton, einlädt, um den Gesetzgebern die Risiken einer außer Kontrolle geratenen Technologie eingehend zu erläutern. Diese Veranstaltungsreihe förderte auch direkt die gesetzgeberische Debatte über den parteiübergreifenden AI Kill Switch Act in den Vereinigten Staaten. Mit diesem Vorschlag soll die Bundesregierung ermächtigt werden, gewaltsam Verlangsamungen anzuordnen oder bestimmte Hochrisikosysteme direkt abzuschalten, wenn sie außer Kontrolle geraten.
Kommentare