Anthropic, ein amerikanisches KI-Startup, geriet kürzlich in einen beispiellosen Regulierungssturm: Erst vor zehn Tagen gab es bekannt, dass sein fortschrittlichstes Großmodell für die Öffentlichkeit zugänglich sein würde, doch jetzt wurde es von der US-Regierung aus Gründen der Exportkontrolle dringend suspendiert. Die überwiegende Mehrheit der Benutzer auf der ganzen Welt kann nicht mehr auf die Modelle Fable 5 und Mythos 5 zugreifen. Dies ist das erste Mal, dass die Vereinigten Staaten Exportkontrollmaßnahmen direkt am KI-Modell selbst umgesetzt haben, was zu Erschütterungen auf mehreren Ebenen in den Bereichen Sicherheit, Industrie und Allianzbeziehungen geführt hat.

Laut The Economist berichtete US-Senator Mark Warner am 11. Juni bei einer geheimen Pressekonferenz, dass General Joshua Rudd, der auch als Direktor der National Security Agency (NSA) und Kommandeur des U.S. Cyber ​​Command fungiert, ihm mitgeteilt habe, dass das Mythos-Modell von Anthropic während einer genehmigten Übung des Roten Teams die Verteidigungsanlagen der meisten geheimen Systeme der NSA durchbrochen habe, und zwar nicht innerhalb von Wochen oder Tagen, sondern in „Stunden“. Diese Behauptung wurde noch von keiner Regierungsbehörde offiziell bestätigt und die relevanten Details bleiben vertraulich, wurde aber schnell zum vorherrschenden Narrativ, das erklärt, warum die US-Regierung am 12. Juni plötzlich ein strenges Exportverbot erließ: Ein KI-Modell eines kommerziellen Unternehmens brach in kurzer Zeit in eine der am strengsten bewachten geheimen Infrastrukturen der Welt ein.

Als Anthropic Mythos im April dieses Jahres zum ersten Mal enthüllte, machte es deutlich, dass das Modell zu leistungsfähig sei, um Software-Sicherheitslücken zu entdecken, und dass das Risiko eines Missbrauchs bestehe, sodass es nicht für die Öffentlichkeit zugänglich gemacht werden würde. Es würde nur etwa 200 streng geprüften Partnern im Rahmen eines Projekts namens Project Glasswing Zugang gewähren, darunter Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan Chase und die Linux Foundation. Seitdem hat Mythos dazu beigetragen, Tausende reale Schwachstellen aufzudecken, darunter eine Sicherheitslücke, die 27 Jahre lang in OpenBSD schlummerte, und 271 neue Probleme im Browser Mozilla Firefox 150.

Am 9. Juni stellte Anthropic das Modell Fable 5 der Öffentlichkeit vor. Die zugrunde liegende Grundlage ist die gleiche wie bei Mythos, jedoch wird darüber ein Sicherheitsklassifizierer gelegt, um als gefährlich eingestufte Anfragen abzufangen und diese Anfragen zur Verarbeitung an weniger leistungsfähige Modelle umzuleiten. Anthropic vertritt den Standpunkt, dass diese „Leitplanken“ ausreichen, um Fable 5 für die Öffentlichkeit sicher zu machen; Doch nachdem die Aussage von General Rudd über NSA-Penetrationstests ans Licht kam, war die US-Regierung offenbar mit diesem Urteil nicht einverstanden und glaubte, dass zwischen Mythos und Fable 5 die „Fähigkeitslücke“, die durch den Sicherheitsklassifizierer allein entsteht, nicht ausreichte, um eine zuverlässige Verteidigungslinie zu bilden.

Der direkte Auslöser, der all dies auslöste, war ein „Jailbreak“-Bericht. Die US-Regierung teilte Anthropic am 12. Juni mit, dass sie einen Weg gefunden habe, den Sicherheitsklassifikator Fable 5 zu umgehen und so möglicherweise seine sensibelsten Cyber-Offensiv- und Verteidigungsfähigkeiten freizuschalten. Laut Anthropic wurde die Regierung nur mündlich über die Sicherheitslücke informiert, sie beschrieb sie als „potenziellen, begrenzten, nicht universellen Jailbreak“ und gab dem Unternehmen 90 Minuten Zeit, um Maßnahmen zu ergreifen. Der Jailbreak wurde zuerst von Amazon, einem wichtigen Investor von Anthropic und Konkurrenten im KI-Bereich, an das US-Handelsministerium gemeldet. Gleichzeitig veröffentlichte ein Forscher unter dem Pseudonym „Plinius der Befreier“ innerhalb von 48 Stunden, nachdem Fable 5 online ging, sein selbsternanntes vollständiges System-Promptwort auf X und GitHub.

Angesichts des Drucks der Regierung reagierte Anthropic mit der Betonung seiner Einschätzung, dass die Auswirkungen dieses Jailbreaks begrenzt und nicht universell seien und die allgemeine Sicherheit von Fable 5 nicht grundlegend gefährden würden. Das Unternehmen wies auch darauf hin, dass ähnliche Sicherheitslücken in anderen öffentlich zugänglichen Modellen bestehen, darunter GPT-5.5 von OpenAI, diese Modelle jedoch nicht der gleichen Intensität der Exportkontrollen unterliegen. Anthropic warnte in einer Erklärung, dass, wenn die aktuellen Standards für Fable 5 branchenweit angewendet würden, „fast alle führenden Modellanbieter gezwungen wären, die Bereitstellung neuer Modelle einzustellen.“

Einige in der Sicherheitsgemeinschaft stimmen der Einschätzung von Anthropic zu. Der frühere Sicherheitschef von Facebook, Alex Stamos, sagte, er habe die relevanten Forschungsergebnisse überprüft und sei davon überzeugt, dass sie zwar bemerkenswerte Ergebnisse enthielten, aber keine „einzigartigen Fähigkeiten“ zeigten, die diese extreme Reaktion rechtfertigen würden. Der Berater der Trump-Administration, David Sacks, vertrat jedoch eine gegenteilige Ansicht und sagte, es sei schwer zu verstehen, wie Anthropic behaupten könne, dass ein Jailbreak, der ausreicht, um die Cyberwaffe vollständig einsatzbereit zu machen, als „nicht schwerwiegend“ eingestuft werden könne.

Der politische Hintergrund macht es für Außenstehende schwieriger, diese Entscheidung als rein sicherheitstechnisches Problem zu betrachten. Im Februar wies die Trump-Administration alle Bundesbehörden an, die Modelle von Anthropic nicht mehr zu verwenden, nachdem sich das Unternehmen geweigert hatte, Vertragsbedingungen zu unterzeichnen, die den Einsatz seiner KI in autonomen Waffensystemen und groß angelegter inländischer Überwachung ermöglicht hätten. Das Pentagon stufte Anthropic daraufhin als „Lieferkettenrisiko“ ein und untersagte militärischen Auftragnehmern die Nutzung seiner Modelle. Anthropic focht diese Einstufung derzeit vor einem Bundesgericht an. Diese Reihe von Konflikten lässt diese Exportkontrolle eher wie den Ausbruch eines Langzeitspiels erscheinen, das durch schwerwiegende Sicherheitsvorfälle angeregt wird.

Das tiefere Problem liegt im Fehlen von Institutionen. Einige Analysten wiesen darauf hin, dass es den Vereinigten Staaten immer noch an einem stabilen und transparenten Rahmen zur Bewertung und Kontrolle der Sicherheitsrisiken modernster KI-Modelle mangele. Am 2. Juni erließ die Trump-Administration eine Durchführungsverordnung, in der sie KI-Unternehmen aufforderte, der Regierung „freiwillig“ 30 Tage im Voraus Zugang zu einer neuen Generation hochmoderner Modelle zu gewähren, bevor diese öffentlich veröffentlicht werden. Allerdings ging Fable 5 direkt nach 7 Tagen online und hielt sich nicht an diesen „freiwilligen Rahmen“. In der Praxis wurde das Verbot vom 12. Juni zu einem harten Mittel, um Unternehmen zur Zusammenarbeit mit der staatlichen Überprüfung zu zwingen. Ein Analyseartikel auf der Website „Dialogue“ geht davon aus, dass das wesentliche Problem darin besteht, dass der Regierung die Daten, die Infrastruktur und die professionellen Fähigkeiten fehlen, die für die unabhängige Bewertung modernster proprietärer Modelle erforderlich sind, und dass ihre Abhängigkeit von Unternehmen in dieser Durchführungsverordnung auch in irgendeiner Form anerkannt wird.

Die Auswirkungen dieses Verbots reichen weit über die Vereinigten Staaten hinaus. Als der Zugang zu Fable 5 und Mythos 5 vollständig gesperrt wurde, wurden gleichzeitig auch Australien, das Vereinigte Königreich, Kanada und Neuseeland sowie die traditionelle US-Geheimdienstallianz Five Eyes ohne Vorwarnung ausgesperrt. Das britische AI ​​Safety Research Institute, das als weltweit führende Institution zum Testen modernster Modelle gilt, verlor während der Evaluierung verwandter Systeme plötzlich den Zugriff. Zu diesem Zweck haben die Geheimdienste der fünf Länder am Montag eine seltene gemeinsame Erklärung abgegeben. Obwohl weder Anthropic noch Mythos genannt wurden, deutete der Kontext zweifellos auf die aktuelle Situation hin.

In der gemeinsamen Erklärung wurde darauf hingewiesen, dass hochmoderne KI-Modelle voraussichtlich die aktuellen Erwartungen der Branche übertreffen und die Landschaft der Netzwerkangriffs- und Verteidigungsfähigkeiten grundlegend verändern werden. Das Zeitfenster für damit verbundene Risiken wird nicht mehr in „Jahren“, sondern in „Monaten“ gemessen. Das Dokument wurde von hochrangigen Beamten unterzeichnet, darunter dem Cybersicherheitschef der NSA, David Imbordino, und dem amtierenden CISA-Direktor Nick Andersen. In der Erklärung wurde gewarnt, dass KI die Hemmschwelle für böswillige Akteure, Angriffe zu starten, erheblich senken und weiterhin dieselben alten Probleme ausnutzen wird, die seit Jahren nicht gelöst wurden – ungepatchte Systeme, schwache Identitätsmanagementkontrollen und Dienste, die unnötigerweise dem Internet ausgesetzt sind. In der Erklärung wurde betont, dass Cyber-Risiken kein rein technisches Problem mehr sind, sondern ein zentrales Unternehmensrisiko und eine Führungsverantwortung darstellen.

Olivia Shen, eine Expertin für nationale Sicherheit und KI an der Universität Sydney in Australien, wies darauf hin, dass Außenstehende ihre Vision nicht auf Anthropic beschränken sollten. Sie glaubt, dass die Branche damit rechnen muss, dass „der nächste Mythos oder die nächste Fabel bald erscheinen wird“, und dass die Öffentlichkeit derzeit nur das veröffentlichte Modell sehen kann und dass möglicherweise ebenso fortschrittliche oder sogar fortschrittlichere Systeme von China oder anderen Ländern entwickelt werden und Akteure hinter verschlossenen Türen vorangetrieben werden. Das Sicherheitsmedium CyberScoop wies darauf hin, dass die im Amazon-Bedrohungsbericht, der diese Regierungsmaßnahme auslöste, erwähnten Angriffsfähigkeiten tatsächlich mit Hilfe von Modellen älterer Generationen wie Claude Opus, Claude Sonnet und sogar chinesischen Open-Source-Modellen erreicht werden können, die keiner US-Exportkontrolle unterliegen. Bei Open-Source-Modellen liegen die Fähigkeiten der Hauptlabore traditionell um etwa 6 bis 8 Monate zurück, daher ist es eine offene Frage, ob die Deaktivierung von Fable 5 einen absichtlichen Gegner tatsächlich erheblich verlangsamt.

Derzeit sind Fable 5 und Mythos 5 für die meisten Benutzer noch offline. Anthropic teilte den Medien zuvor mit, dass das Unternehmen „sehr zuversichtlich sei, dass die Modellverfügbarkeit in den nächsten Tagen wiederhergestellt wird“, diese Position sei jedoch noch nicht erfüllt. Von Prognosemärkten angegebene Wahrscheinlichkeiten beziffern die Wahrscheinlichkeit, dass der Zugang vor dem 1. Juli wiederhergestellt wird, auf etwa 57 %. Trump sagte letzte Woche in einem Interview mit Axios, dass er Anthropic nicht mehr als nationale Sicherheitsbedrohung betrachte und sagte: „Vielleicht war es vor einer Woche, aber nicht jetzt.“ Die beiden Seiten trafen sich während des G7-Gipfels und Trump kommentierte den Verlauf der Verhandlungen mit den Worten: „Alles läuft sehr gut.“

Dutzende Menschen, darunter Cybersicherheitsforscher, KI-Unternehmer und Unternehmensleiter, schrieben am Montag gemeinsam an das Weiße Haus und forderten die Regierung auf, sich bei künftigen KI-Risikobewertungs- und Reaktionsprozessen zu einem „offenen, wissenschaftlichen und transparenten“ Prozess zu verpflichten. Es wird davon ausgegangen, dass ein wirksameres Signal von der Identitätsüberprüfungsrichtlinie von Anthropic ausgehen könnte, die am 8. Juli in Kraft treten soll und es dem Unternehmen ermöglichen wird, zu überprüfen, ob Benutzer US-Bürger sind, und so hoffentlich die Verfügbarkeit des Modells in den Vereinigten Staaten wiederherzustellen, ohne die Exportkontrollanordnung vollständig aufzuheben.

Obwohl noch unklar ist, wie das Verbot kurzfristig enden wird, markierten die letzten etwa zehn Tage eindeutig einen Wendepunkt: Dies ist das erste Mal, dass die Vereinigten Staaten Exportkontrollen direkt auf das KI-Modell selbst und nicht auf die Hardware-Ausrüstung, die seinen Betrieb unterstützt, anwenden. Europa beobachtet diesen Präzedenzfall genau und befürchtet, dass sich eine ähnliche Situation in Zukunft auf Azure, AWS oder Google Cloud wiederholen könnte. Der ehemalige britische Sicherheitsminister Tom Tugendhat sagte unverblümt, dass die Länder nach einer solchen „intuitiven Lektion“ beginnen werden, darüber nachzudenken, wie sie die souveränen Fähigkeiten ihres Landes in kritischer Cloud- und KI-Infrastruktur erreichen können. Ob Mythos tatsächlich innerhalb weniger Stunden in die meisten geheimen Systeme der NSA eingebrochen ist, wurde von keiner Regierungsbehörde unabhängig bestätigt und die genauen Details sind immer noch in geheimen Dokumenten verborgen.