Laut drei mit der Angelegenheit vertrauten Personen nutzt die US-amerikanische Cybersecurity and Infrastructure Security Agency (CISA) das Mythos-Modell, das vom Startup für künstliche Intelligenz Anthropic entwickelt wurde, um den Softwarecode der US-Regierung zu prüfen.
Laut Quellen nutzt CISA das Myth-Modell, um staatliche Code-Repositories nach Softwarefehlern und Sicherheitslücken zu durchsuchen, die von ausländischen Geheimdiensten oder Cyberkriminellen ausgenutzt werden könnten. Diese Arbeit wird vom CISA-internen „Attack Surface Evaluation“-Team übernommen, das auf die Durchführung digitaler Sicherheitsbewertungen und simulierter Angriffs- und Verteidigungsübungen für verschiedene Regierungsbehörden spezialisiert ist. Zwei der Quellen sagten, die Prüfungen hätten eine große Anzahl von Schwachstellen aufgedeckt, gaben jedoch weder die Anzahl noch Einzelheiten bekannt; Es war unklar, wie viel Regierungscode das Team abgedeckt hatte oder welche Art und Schwere die gefundenen Schwachstellen hatten.
Zu verwandten Themen reagierte Anthropic nicht auf Anfragen von Reportern nach Kommentaren. Ein CISA-Sprecher sagte letzten Monat, man werde bestätigen, ob der Inhalt veröffentlicht werden dürfe, antwortete aber nicht auf weitere E-Mail-Anfragen.
Anthropic hatte ein turbulentes Verhältnis zur US-Regierung. Im Februar geriet das in San Francisco ansässige Unternehmen mit dem Pentagon aneinander, weil es sich weigerte, Schutzmaßnahmen aus seinen Produkten zu entfernen, die autonome Waffen und inländische Überwachung verbieten. Das US-Verteidigungsministerium hat Anthropic daraufhin offiziell als „Lieferkettenrisiko“ eingestuft, eine Bezeichnung, die normalerweise ausländischen Unternehmen vorbehalten ist, die im Verdacht stehen, ausländische Spionage zu unterstützen. Diese beispiellose „Schwarze Liste“-Maßnahme wurde im März von einem Richter gestoppt, und die Beziehungen zwischen den beiden Parteien haben sich seitdem entspannt.
Ein wichtiger Knotenpunkt der Entspannung war die private Einführung des „Myth“-Modells durch Anthropic bei der Regierung. Dieses künstliche Intelligenzsystem wurde als „äußerst fähig“ bei der Entdeckung und Ausnutzung von Netzwerksicherheitslücken beschrieben. Früheren Medienberichten zufolge begann die US-amerikanische National Security Agency (NSA) bereits im April, „Myth“ in tatsächlichen Arbeiten einzusetzen, obwohl Anthropic zu diesem Zeitpunkt noch auf der schwarzen Liste stand. Die New York Times zitierte Quellen mit den Worten, dass einige NSA-Analysten, die den Myth in einer streng geheimen Umgebung getestet hatten, von seinen Fähigkeiten beeindruckt waren.
Gleichzeitig hat Anthropic auch eine öffentlich zugängliche Version von „Myth“ namens „Fable“ herausgebracht. Dieses öffentliche Modell verfügt über einen zusätzlichen Netzwerksicherheitsschutz, der Benutzer daran hindert, es direkt für tatsächliche Angriffe zu verwenden. Doch kurz nachdem „Fable“ online ging, forderte das Weiße Haus Anthropic plötzlich auf, ausländischen Nutzern den Zugriff auf das Modell zu verbieten. Der Antrag löste eine weltweite Zugangssperre zum Fable-Modell aus, und erst letzte Woche hob die US-Regierung offiziell die Exportkontrollbeschränkungen für das Modell auf. Derzeit testet und bewertet die US-Regierung weiterhin die Technologie von Anthropic innerhalb ihrer nationalen Sicherheitsbehörden, während sie mit dem Unternehmen ein heikles Spiel über Regulierungs- und Sicherheitsgrenzen führt.