Die US-Regierung hat kürzlich eine neue Exportkontrollrichtlinie erlassen und sich dabei auf Anweisungen des US-amerikanischen Nationalen Sicherheitsministeriums berufen. Die Richtlinie verlangt von Anthropic, allen ausländischen Bürgern den Zugriff auf Claude Fable/Mythos 5-Modelle sofort zu sperren. Auch ausländische Mitarbeiter von US-Unternehmen in den USA haben keinen Zugriff auf diese Modelle. Dieses Verbot führt auch direkt dazu, dass die eigenen ausländischen Mitarbeiter von Unternehmen A Claude Fable/Mythos 5 nicht nutzen können.
Aufgrund von Compliance-Anforderungen hat Unternehmen A beschlossen, die Bereitstellung von Claude Fable/Mythos 5 weltweit sofort auszusetzen. Diese Modelle können nicht verwendet werden, unabhängig davon, ob sie sich in den Vereinigten Staaten befinden. Auch andere kooperative Plattformen wie Amazon AWS sperrten den Zugang sofort. Wann der Modellzugriff wiederhergestellt werden kann, wird möglicherweise erst bekannt, wenn Unternehmen A mit der US-Regierung darüber spricht.
Kann mit dem Modell-Jailbreak zusammenhängen:
Gestern hat ein bekannter KI-Modell-Jailbreak-Experte erfolgreich einen Jailbreak für das Claude Fable/Mythos 5-Modell durchgeführt. Es gibt viele Methoden, die von Jailbreak-Experten verwendet werden, aber solange sie bekannt gegeben werden, können andere Benutzer auch versuchen, diese Methoden zum Jailbreak zu verwenden, und die Erfolgsquote des Jailbreak kann relativ hoch sein, sodass das Modell detaillierte Antworten auf verschiedene sensible Inhalte geben kann.
Die US-Regierung erwähnte in einer an Unternehmen A erlassenen Exportkontrollanordnung, dass sie Wege gefunden habe, das Claude-Fable-5-Modell zu umgehen oder zu knacken. Die Überprüfung der Demonstrationen dieser speziellen Technologie durch Unternehmen A bestätigte, dass die Technologie zur Identifizierung einer kleinen Anzahl zuvor bekannter kleinerer Schwachstellen verwendet werden kann, die relativ einfach zu sein scheinen und von anderen Modellen ausgenutzt werden können, ohne sie zu umgehen.
Es ist jedoch nicht klar, ob es sich bei der hier erwähnten technischen Demonstration um die von Jailbreak-Experten verwendete Methode handelt. Wenn man jedoch bedenkt, dass die US-Regierung keine vollständige Aussetzung des Modellzugriffs verlangt, sondern ausländischen Bürgern lediglich die Nutzung dieser Modelle verbietet, stehen die von der US-amerikanischen National Security Agency entdeckten Probleme möglicherweise nicht in direktem Zusammenhang mit den von Jailbreak-Experten genannten Problemen. Man kann nur nicht sagen, dass sich die Agentur bei der Suche nach Jailbreak-Methoden auch auf die Ideen von Jailbreak-Experten stützen wird.
Unternehmen A äußerte seine Unzufriedenheit in einem offenen Brief:
Unternehmen A behauptet, dass derzeit kein Modell zu 100 % resistent gegen Risse ist und derzeit kein Tester eine universelle Jailbreak-Lösung finden kann. Die von Claude Fable/Mythos 5 übernommene Defense-in-Depth-Strategie kann den Jailbreak erschweren. In Kombination mit umfassender Überwachungstechnologie kann Unternehmen A erfolgreiche Angriffe schnell erkennen und blockieren, wodurch das Risiko eines Jailbreaks des Modells verringert werden kann.
Agentur A erwähnte außerdem, dass die US-Regierung keine detaillierten Offenlegungsinformationen bereitgestellt habe, die schädliche Folgen für das Exportkontrollverbot hätten, was bedeutet, dass die offengelegten Jailbreak-Lösungen entweder völlig harmlos oder unbedeutende Entdeckungen seien. Es ist für Agentur A völlig unvernünftig, kommerzielle Software, die Hunderten Millionen Benutzern zur Verfügung gestellt wurde, nur wegen der entdeckten potenziellen Sicherheitslücken zurückzurufen.
Unternehmen A ist davon überzeugt, dass die US-Regierung das Recht hat, den Einsatz unsicherer Modelle zu verhindern. Dies sollte jedoch durch rechtliche Verfahren ausgeübt werden, die transparent, fair und klar sind und auf technischen Fakten basieren, anstatt die Implementierung von Kontrollen ausschließlich auf mündlichen Anweisungen zu fordern. Daher entspricht diese Maßnahme nicht den Grundsätzen. Unternehmen A kommuniziert weiterhin mit der US-Regierung und bemüht sich, den Claude Fable/Mythos 5-Modelldienst so schnell wie möglich wiederherzustellen.