Die Vereinigten Staaten haben ausländischen Nutzern den Zugriff auf die fortschrittlichsten KI-Modelle von Anthropic verboten, berichtete Bloomberg, ein ungewöhnlicher Schritt, der die derzeitige Bereitschaft der Trump-Regierung unterstreicht, die Kontrolle über diese wichtige Branche auszuüben. Gleichzeitig erinnert es das Silicon Valley daran, dass es eine Technologie entwickelt und nutzt, die noch nicht vollständig verstanden ist und deren Auswirkungen sehr unterschiedlich sind.
Anthropisch
Am Freitag unternahm die US-Regierung den beispiellosen Schritt, Anthropic anzuweisen, allen Ausländern die Nutzung seiner fortschrittlichsten KI-Plattform zu verbieten. Die US-Regierung erließ diese Anordnung, nachdem sie herausgefunden hatte, dass das vor einigen Tagen von Anthropic veröffentlichte Fable 5-Modell einen „Jailbreak“ haben könnte. Das sogenannte „Jailbreaking“ bezieht sich auf die Umgehung des vom Modell festgelegten Sicherheitsschutzmechanismus.
Die schnelle Einführung des Umzugs löste weitverbreitete Besorgnis aus. Anthropic bezeichnete den Schritt als „Überreaktion“ und warnte davor, dass ein solcher regulatorischer Ansatz „dazu führen könnte, dass alle Spitzenmodellentwickler nicht mehr in der Lage sind, neue Modelle bereitzustellen“.
Anthropic-Führungskräfte führen derzeit Gespräche mit Beamten in Washington über die von letzteren geäußerten spezifischen Sicherheitsbedenken, sagten mit der Angelegenheit vertraute Personen. Einer der wichtigsten an den Verhandlungen beteiligten Beamten war US-Finanzminister Bessent. Zuvor hat er die Wall Street vor den Risiken gewarnt, die von hochmodernen KI-Modellen wie Mythos von Anthropic ausgehen. Theoretisch kann Mythos Schwachstellen in Software schneller finden und ausnutzen als Menschen.
Greifen Sie in den Betrieb von KI-Unternehmen ein
Die Reaktion der US-Regierung ist der bisher bedeutendste Eingriff von Regierungsbeamten in die Geschäftstätigkeit eines KI-Unternehmens. Der Schritt erfolgt, da führende KI-Startups wie Anthropic einen Börsengang anstreben. Anthropic hat einen Wert von mehr als 900 Milliarden US-Dollar. Diese unerwartete Kontrollmaßnahme könnte einen Präzedenzfall für große KI-Modellentwickler wie OpenAI, Google und Meta darstellen.
Heute ist die US-Regierung bereit, außerordentliche Befugnisse einzusetzen, um KI-Entwickler zu zwingen, mit potenziellen Sicherheitsbedrohungen in Übereinstimmung mit den Regierungsanforderungen umzugehen, obwohl die Trump-Regierung in einer im Juni dieses Jahres erlassenen Durchführungsverordnung erklärt hat, dass sie Unternehmen aus dem Silicon Valley nicht zwingen wird, Regierungsanweisungen zu befolgen.
„Die hochmodernen Modelle der Vereinigten Staaten werden zunehmend als strategische Vermögenswerte betrachtet, und ihre Verwendung wird streng kontrolliert und von nationalen Sicherheitserwägungen beeinflusst“, sagte Gary Tan, Portfoliomanager bei der Vermögensverwaltungsgesellschaft Allspring Global Investments. „Dieser Trend wird sich wahrscheinlich fortsetzen, da die Vereinigten Staaten bei der Rechenleistung führend sind.“
Mythos-Modell
Anthropic veröffentlichte letzte Woche Fable 5, die erste öffentliche Version seines Mythos-Klassenmodells. Das Unternehmen hat wiederholt vor den Cyber-Fähigkeiten von Mythos gewarnt, und Beamte des Weißen Hauses haben diese Bedenken ernst genommen und durch freiwillige Executive Orders einen Weg für US-Behörden geschaffen, Mythos und andere cyberfähige Modelle zum Beheben von Schwachstellen in ihren Systemen zu verwenden.
Die Bedenken Washingtons gehen möglicherweise über „Jailbreaking“ oder die Möglichkeit, eine bestimmte Plattform zu beeinflussen, hinaus. Die allgemeinere Sorge besteht darin, dass Gegner versuchen könnten, die Gewichte eines KI-Modells zu stehlen, eine äußerst wertvolle digitale Datei, die den Schlüssel zu den Fähigkeiten eines Modells enthält. Die Entscheidung, den Zugriff auf Fable and Mythos zu verbieten, erfolgt vor dem Hintergrund wachsender Bedenken in Washington, dass KI-Unternehmen Geschäftsgeheimnisse schützen könnten. Die US-Regierung ist der Ansicht, dass diese Unternehmen sich vor potenziellen Bedrohungen durch Insider schützen müssen, um den Verlust von Kerntechnologien zu verhindern.
Nachdem Washington jahrzehntelang modernste amerikanische Technologie als diplomatisches und wirtschaftliches Instrument auf der ganzen Welt verbreitet hat, bewegt es sich nun in die entgegengesetzte Richtung. Aus Gründen der nationalen Sicherheit neigen die Vereinigten Staaten zunehmend dazu, die Technologie für den heimischen Gebrauch zu behalten.
„Dies zeigt, dass die Vereinigten Staaten rasch Exportkontrollen einsetzen, um die Risiken modernster KI einzudämmen.“ sagte Stefanie Kam, Assistenzprofessorin am Institut für Verteidigung und strategische Studien der Nanyang Technological University in Singapur.
Boykott im Silicon Valley?
Abgesehen von den politischen Zielen dürfte sich das Silicon Valley den Versuchen Washingtons, die Kontrolle zu verschärfen, widersetzen. Von Meta bis OpenAI wetteifern große KI-Entwickler darum, die Führungsspitze dieser Technologie zu erobern, da diese Technologie wahrscheinlich die gesamte Wirtschaft und viele Branchen umgestalten wird.
Es ist jedoch unmöglich, jede Kombination der potenziellen Fähigkeiten eines KI-Modells zu testen, was zu vagen Bedenken hinsichtlich Bedrohungen führt, die im Zuge der weiteren Verbesserung der Modelle weiterhin unter die Lupe genommen werden.
„Es kann wichtige Leistungsschwellen geben. Zum Beispiel KI-Systeme, die große Mengen an KI-Forschungs- und Entwicklungsarbeit in kurzer Zeit automatisieren können. Solche Systeme können völlig neue Risiken mit sich bringen.“ US-Senator Jim Banks schrieb diesen Monat in einem Brief an Bessant, den nationalen Cyber-Direktor Sean Cairncross und Verteidigungsminister Pete Hegseth. „Branchenexperten haben auch ernsthafte Bedenken hinsichtlich der Schwierigkeit geäußert, solche Systeme unter menschliche Kontrolle zu bringen.“