Zusammenfassung:
Anthropic weigert sich, sein neuestes Modell vor der Veröffentlichung des neuen Produkts zum Testen beim britischen Artificial Intelligence Safety Institute (AISI) einzureichen. Der Schritt hat in der britischen Regierung Bedenken geweckt, dass Technologieunternehmen der KI-protektionistischen Linie der Trump-Regierung folgen.
Das 1-Billionen-Dollar-Unternehmen, das sich auf einen großen Börsengang in den kommenden Wochen vorbereitet, hat letzte Woche sein neuestes Modell, Claude Mythos 5.1, auf den Markt gebracht und es als das leistungsfähigste Modell in den Bereichen Biowissenschaften und Cybersicherheit bezeichnet.
Aber dies ist das erste Mal, dass das Modell nur akkreditierten US-Institutionen offen steht, und das britische Artificial Intelligence Security Institute (AISI) konnte keinen Zugang erhalten. AISI ist die weltweit führende Organisation auf dem Gebiet der hochmodernen Evaluierung großer Modelle.
Mehrere britische Regierungsbeamte sagten, dass AISI vor der Veröffentlichung des Modells keine Zugangsrechte erhalten konnte, was bei Whitehall (der britischen Zentralregierung) und dem Institut Alarm ausgelöst hat. AISI ist Großbritanniens wichtigstes Verhandlungsinstrument im globalen Wettlauf um künstliche Intelligenz.
Ein Regierungsinsider sagte: „Nationale Sicherheitsbeamte sind darüber besorgt. Sie testen Mythos 5.1 wirklich nicht. Auf allen Seiten herrscht große Besorgnis … Sie befürchten, dass dies einen Präzedenzfall schaffen wird und AISI in Zukunft keinen Zugriff mehr auf die neuesten Modelle haben wird.“
In den letzten Monaten hat die Trump-Administration eine immer strengere Haltung gegenüber der KI-Branche eingenommen, umfangreiche Exportkontrollen eingeführt und allen Ausländern (einschließlich Mitarbeitern von US-amerikanischen KI-Unternehmen) vorübergehend den Zugang zu den Topmodellen von Anthropic verwehrt.
Quellen enthüllten, dass einige Leute in Whitehall glauben, dass Anthropic sich auf Anweisung der US-Regierung weigerte, die neue Version des Mythos-Modells für AISI zu öffnen, aber diese Spekulation wurde nicht bestätigt. AISI, das vor drei Jahren gegründet wurde, hat das neue OpenAI-Modell Astra bereits vor der offiziellen Veröffentlichung in diesem Monat zur Evaluierung erhalten.
Anthropic lehnte einen Kommentar ab. Das Unternehmen sagte letzte Woche, dass es „sich mit der US-Regierung abstimmt, um die Modelloffenheit so schnell wie möglich auf mehr in- und ausländische Partner auszuweiten“.
Im Juni dieses Jahres führte die US-Regierung Exportkontrollen für Fable und Mythos ein, zwei Modelle von Anthropic, die sich auf die Netzwerksicherheit konzentrieren und Ausländern die Nutzung der Technologie verbieten. Dieser Vorfall ereignete sich nach Einführung der oben genannten Kontrollen.
Die Vereinigten Staaten entdeckten, dass das Modell eine „Jailbreak“-Schwachstelle aufwies, eine Methode, mit der die integrierten Sicherheitsleitplanken der Software umgangen werden können, und führten diese Kontrolle sofort ein. Aufgrund der Entdeckung hat Anthropic sein Spitzenmodell für mehrere Wochen vom globalen Markt genommen.
Dieser Vorfall verschärfte den Konflikt zwischen dem Weißen Haus und dem Silicon Valley. Silicon Valley hat die US-Regierung dafür kritisiert, dass sie vorübergehende Notstandsvorschriften für hochmoderne KI erlassen hat.
Dieser Schritt stieß auch bei vielen Regierungen auf Widerstand, und relevante Länder haben den Vereinigten Staaten vorgeworfen, Verbündete durch Verbote zu bestrafen. Die Europäische Kommission, die Exekutive der EU, warnte damals, Sicherheitsrisiken seien eine „gemeinsame Herausforderung“ und die ergriffenen Maßnahmen dürften „keine Diskriminierung von Partnerländern darstellen“.
Britische Regierungsbeamte sind sich klar darüber im Klaren, dass das Land nicht nur mit Auswirkungen auf die Sicherheit konfrontiert sein wird, sondern auch die Wirtschaft leiden könnte, wenn es dem Vereinigten Königreich nicht gelingt, über die modernsten KI-Modelle zu verfügen.
Medien berichteten letzten Monat, dass das Kabinettsbüro, das für die Koordinierung von Regierungsangelegenheiten zuständig ist, eine dringende Bewertung des Risikos angeordnet hat, dass normale Verbraucher und Unternehmen möglicherweise nicht mehr in der Lage sind, die neueste Version von KI-Modellen zu verwenden.
Anthropics Beziehung zur US-Regierung ist seit Anfang dieses Jahres angespannt. Zuvor befand sich das Unternehmen in einer Pattsituation mit dem US-Verteidigungsministerium über Vertragsbedingungen und die USA identifizierten es anschließend als Lieferkettenrisikounternehmen.
In den letzten Monaten scheinen sich die Beziehungen zwischen dem führenden US-amerikanischen KI-Labor und Teilen der Trump-Administration entspannt zu haben, da beide Parteien eng an der Veröffentlichung von Mythos- und Fable-Modellen arbeiten.
Das britische Kabinettsbüro sagte: „Das Artificial Intelligence Safety Institute (AISI) arbeitet weiterhin eng mit Industriepartnern, darunter Anthropic, zusammen, um die Modellsicherheit zu verbessern.“
Kommentare