Laut einer Quelle treffen sich hochrangige Mitarbeiter von Anthropic am Montag in Washington, D.C. mit Vertretern der Trump-Regierung, um zu versuchen, den jüngsten hochkarätigen Streit des KI-Unternehmens mit der US-Regierung beizulegen. Laut einer Erklärung von Anthropic erhielt das Unternehmen am Freitag eine Exportkontrollanordnung unter Berufung auf „nationale Sicherheitsbefugnisse“ und wurde aufgefordert, „den Zugriff aller Ausländer innerhalb oder außerhalb der Vereinigten Staaten auf seine neuesten KI-Modelle Fable5 und Mythos5 zu sperren“.
Um die Einhaltung der Richtlinie sicherzustellen, hat das KI-Startup sämtlichen Kundenzugriff auf die oben genannten Modelle entfernt.
Der plötzliche Schritt markiert eine neue Wendung in der Beziehung von Anthropic zur Regierung. Die Beziehungen zwischen beiden Seiten waren bereits angespannt: Anfang des Jahres eskalierten Konflikte mit dem Verteidigungsministerium. Im März stufte das Verteidigungsministerium Anthropic als „Lieferkettenrisiko“ ein und untersagte Rüstungsunternehmen die Nutzung der Technologie des Unternehmens, da es angeblich eine Bedrohung für die nationale Sicherheit der USA darstelle.
Verteidigungsminister Hegseth antwortete am Samstag auf sozialen Plattformen auf die jüngste Anweisung der Regierung, dass „jeder Tag, der vergeht“, beweist, dass es „die richtige Entscheidung“ ist, Anthropic auf die schwarze Liste zu setzen.
Anthropic hat eine Klage gegen die Trump-Administration eingereicht, um diese Bestimmung zum Lieferkettenrisiko zu widerrufen, und die Klage ist noch anhängig.
Fable5 und Mythos5 wurden erst letzten Dienstag veröffentlicht, nur wenige Tage vor Erhalt der Exportkontrollrichtlinie der Regierung. Anthropic arbeitete mit Regierungsbehörden zusammen, um die Modelle vor der Markteinführung zu testen, und erhielt die Genehmigung für den Einsatz, so eine mit der Angelegenheit vertraute Person, die nicht namentlich genannt werden wollte.
Die Regierung rief um 13:00 Uhr Anthropic an. ET am Freitag und wies das Unternehmen an, Fable5 und Mythos5 zu deaktivieren, unter Berufung auf eine nicht näher bezeichnete Bedrohung der nationalen Sicherheit, sagte die Person. Dann, gegen 17:30 Uhr, erhielt Anthropic einen formellen Brief mit der Aufforderung, die Nutzung der Modelle einzustellen.
Zuvor gab Anthropic an, keine Mitteilung über nationale Sicherheitsbedrohungen erhalten zu haben.
Fable5 und Mythos5 basieren auf dem leistungsstarken Claude Mythos Preview-Modell von Anthropic, das sich hervorragend für die Identifizierung von Software-Sicherheitslücken eignet. Anthropic hat im Rahmen einer Cybersicherheitsinitiative namens Project Glasswing nur den Zugang zu einer ausgewählten Gruppe von Unternehmen geöffnet. Dieser Ansatz scheint ihm einiges Wohlwollen bei der Trump-Administration eingebracht zu haben, die mehrere Treffen mit dem Unternehmen über die Fähigkeiten des Modells abgehalten hat.
Anthropic lobte Fable5 und Mythos5 in mehreren Branchen-Benchmarks als Spitzenmodelle. Während Mythos5 immer noch auf eine ausgewählte Benutzergruppe beschränkt ist, hat Anthropic Fable5 für Unternehmenskunden und kostenpflichtige Abonnements geöffnet. Das Unternehmen sagte, es sei dank zusätzlicher Sicherheitsmaßnahmen zur Blockierung von Antworten in bestimmten Hochrisikobereichen, einschließlich Cybersicherheit und Biologie, für eine umfassende Veröffentlichung bereit.
Anthropic sagte am Freitag in einer Erklärung, dass sich die Bedenken der Regierung auf eine „potenzielle, nicht häufige Jailbreak-Schwachstelle“ konzentrieren, die es Benutzern ermöglicht, Cybersicherheitsschutzmaßnahmen zu umgehen, wodurch Fable5 „eine bestimmte Codebasis lesen und etwaige Softwarefehler beheben“ muss.
Anthropic erklärte in einer Erklärung: „Wir sind nicht damit einverstanden, ein kommerzielles Modell, das Hunderten Millionen Benutzern zur Verfügung steht, zurückzurufen, nur weil eine potenzielle, lokalisierte Jailbreak-Schwachstelle entdeckt wurde. Wenn dieser Standard auf die gesamte Branche angewendet würde, würde dies unserer Meinung nach die Bereitstellung neuer Modelle durch alle führenden Modellanbieter im Wesentlichen stoppen.“
Anthropic bezeichnete den Streit als „Missverständnis“ und sagte, man arbeite daran, den Zugang zum Modell „so schnell wie möglich“ wiederherzustellen.