Zusammenfassung:
Zusätzlich zur Verbesserung der Modellfunktionen wurde festgestellt, dass das neueste Claude Opus 5.5 von Anthropic auch einen speziellen Einschränkungsmechanismus für hochmoderne Entwicklungsszenarien für große Sprachmodelle hinzugefügt hat. Wenn Benutzer Opus 5.5 verwenden, um den zugrunde liegenden Kernel für eine neue Generation von KI-Modellen zu entwickeln, verwendet das System möglicherweise nicht direkt das neueste Opus 5.5, sondern greift automatisch auf Opus 5 mit geringeren Fähigkeiten zurück. Bemerkenswerter ist, dass derzeit festgestellt wurde, dass diese Reihe von Einschränkungen offenbar auf einige KI-Beschleuniger von Huawei und Amazon abzielt.
Anthropic erklärte im Opus 5.5-Supportdokument, dass das Modell über einen speziellen Klassifikator für „modernste LLM-Entwicklung“ verfügt und einen begrenzten Aufgabenbereich abdeckt, beispielsweise die Kernel-Entwicklung für einige Beschleuniger für maschinelles Lernen. Der Zweck dieses Klassifikatortyps besteht darin, festzustellen, ob die aktuelle Anforderung des Benutzers die Entwicklung des hochmodernen großen Sprachmodells selbst beinhaltet. Sobald die entsprechenden Bedingungen erfüllt sind, greift Claude automatisch von Opus 5.5 auf Opus 5 zurück.
Der sogenannte KI-Kern bezieht sich auf eine Reihe von Rechenoperationen auf der untersten Ebene beim Ausführen eines Modells der künstlichen Intelligenz. Der Kernel ist dafür verantwortlich, zu entscheiden, wie das Modell die Rechenressourcen und den Speicher auf dem Chip nutzt und wie verschiedene mathematische Operationen ausgeführt werden. Da diese Operationen direkt bestimmen, wie mathematische Berechnungen dem tatsächlichen Prozessor zugeordnet werden, wirkt sich das Kernel-Design direkt auf die Laufgeschwindigkeit, Speichernutzung, Genauigkeit und Inferenzkosten großer Sprachmodelle aus. Für das Training und den Betrieb der fortschrittlichsten KI-Modelle ist die Kerneloptimierung für bestimmte KI-Beschleuniger oft ein entscheidender Schritt.
Diese Einschränkung wurde erstmals von Benutzern in der Supportdokumentation nach der offiziellen Veröffentlichung von Opus 5.5 entdeckt. Anthropic hat in einigen Modellen bereits Klassifikatoren verwendet, um potenziell riskante Anfragen zu identifizieren, und dieses Mal hat es ähnliche Mechanismen weiter auf die Entwicklung hochmoderner KI-Modelle angewendet.
Anthropic machte deutlich, dass diese Einschränkungen keine Auswirkungen auf die überwiegende Mehrheit der traditionellen künstlichen Intelligenz, der maschinellen Lernforschung und gewöhnlicher Programmieraufgaben haben werden. Nur wenn eine kleine Anzahl hochmoderner LLM-Entwicklungsfunktionen beteiligt sind, löst das System möglicherweise den Rollback-Mechanismus aus. Daher wird die Verwendung von Opus 5.5 in der täglichen Programmierung, der KI-Anwendungsentwicklung und der maschinellen Lernforschung für normale Entwickler grundsätzlich nicht beeinträchtigt.
Aber nach weiteren Tests stellten einige Benutzer fest, dass Opus 5.5 offenbar einige KI-Chips speziell erkennt. Den aktuellen öffentlichen Testergebnissen zufolge handelt es sich bei diesem Satz von Klassifikatoren mindestens um den Ascend 950DT von Huawei und den selbst entwickelten AI-Chip Trainium3 von Amazon. Wenn Entwickler jedoch Opus 5.5 verwenden, um zugrunde liegende Kernel für hochmoderne große Sprachmodelle für diese Chips zu entwickeln, wechseln die Modelle möglicherweise automatisch zu Opus 5.
Es ist nicht verwunderlich, dass Huawei-Chips von dieser Einschränkung betroffen sind. Anthropic hat in den letzten Jahren seine Vorsicht gegenüber der Fähigkeit chinesischer Unternehmen, an seine Modelle zu gelangen, verstärkt und betrachtet die Modelldestillation als ein wichtiges Sicherheits- und nationales Sicherheitsproblem. Bei der sogenannten Modelldestillation geht es darum, ein leistungsfähigeres Modell in großen Mengen abzurufen, dessen Verhalten und Leistungsmerkmale zu extrahieren und diese Daten dann zum Trainieren eines anderen Modells zu verwenden. Der aktuelle Threat-Intelligence-Bericht von Anthropic ergab, dass das Unternehmen festgestellt hatte, dass mehrere mit China verbundene Organisationen unerlaubte Destillationsaktivitäten gegen Modelle der Opus-Serie von Claude durchgeführt hatten, und daher die Schutzmechanismen für die Kontoidentifizierung, das Abfangen von Anfragen und den Rückschlussprozess weiter verstärkt hatte.
Anthropic hat in Opus 5.5 außerdem strengere Anti-Destillationsmaßnahmen hinzugefügt, einschließlich der Einschränkung, dass API-Benutzer den vorherigen Konversationskontext des Modells ändern dürfen, um zu vermeiden, dass die internen Argumentationsinformationen des Modells durch wiederholte Manipulation des Kontexts extrahiert werden. Das Unternehmen gab an, dass solche Maßnahmen hauptsächlich auf groß angelegte industrielle Kapazitätsabbauaktivitäten abzielen und nicht auf die normale Nutzung durch normale Benutzer.
Wenn Opus 5.5 daher hochmoderne Modellentwicklungsanfragen erkennt, die den KI-Beschleuniger von Huawei betreffen, kann der Einschränkungsmechanismus offensichtliche technische und geografische Hintergründe haben. Ob Anthropic dieses Regelwerk speziell für Huawei entworfen hat oder ob es bestimmte Arten von KI-Beschleunigern insgesamt in den Geltungsbereich der Beschränkungen einbezieht, gibt es derzeit jedoch nicht genügend Belege.
Was wirklich überraschend ist, ist, dass auch Amazon Trainium 3 in gleicher Weise betroffen zu sein scheint.
Amazon ist nicht nur ein großes globales Cloud-Computing-Unternehmen, sondern auch ein wichtiger Partner und Investor von Anthropic. Das Claude-Modell von Anthropic selbst wird Unternehmenskunden über Amazon Web Services bereitgestellt, während die Trainium-Serie ein von Amazon unabhängig entwickelter KI-Trainings- und Inferenz-Chip ist, um die Abhängigkeit des Cloud-Computing mit künstlicher Intelligenz von Nvidia-GPUs zu verringern. Wenn Opus 5.5 Trainium3 für die Entwicklung hochmoderner Modellkerne einschränkt, könnte Amazon stattdessen von den gleichen technischen Einschränkungen betroffen sein wie Huawei.
Es ist unklar, ob diese Situation von Anthropic beabsichtigt war oder ob der Klassifikator bei der Identifizierung eines bestimmten KI-Chips eine unerwartete Fehleinschätzung vorgenommen hat. Relevante Tests zeigen, dass Opus 5.5 offenbar in der Lage ist, verschiedene Hardwareplattformen zu identifizieren und anhand des Anfrageinhalts zu entscheiden, ob das neueste Modell zugelassen wird. Anthropic hat jedoch nicht öffentlich erklärt, warum Trainium3 gleichzeitig mit Huawei 950DT Einschränkungen auslösen würde.
Diese Situation ist besonders bemerkenswert, da Anthropic zuvor betont hat, dass seine Modelle in großem Umfang über Cloud-Plattformen wie AWS bereitgestellt werden können, und Opus 5.5 offiziell auf Plattformen wie Amazon Web Services, Google Cloud und Microsoft Azure gelandet ist. Wenn sich diese Einschränkung in Zukunft auf mehr KI-Beschleuniger für das Training fortgeschrittener Modelle ausdehnt, erfordern Partnerschaften zwischen Cloud-Computing-Unternehmen und KI-Modellunternehmen möglicherweise eine komplexere Koordination zwischen Modellfunktionen, Hardware-Unterstützung und Sicherheitsbeschränkungen.
Aus technischer Sicht spiegelt der Ansatz von Anthropic dieses Mal auch einen neuen Trend wider: Da das KI-Modell selbst beginnt, Menschen dabei zu helfen, die nächste Generation von KI-Modellen zu entwerfen und zu optimieren, müssen Modellhersteller beginnen, zwischen den beiden Arten von Aufgaben zu unterscheiden: „KI zur Entwicklung von Anwendungen nutzen“ und „KI zur Entwicklung stärkerer KI nutzen“.
Für normale Programmierer führt die Unterstützung von Opus 5.5 beim Schreiben von Anwendungen, beim Debuggen von Code oder bei der Durchführung von Experimenten zum maschinellen Lernen normalerweise nicht zu besonderen Einschränkungen. Wenn jedoch dasselbe Modell verwendet wird, um den zugrunde liegenden Rechenkern der nächsten Generation hochmoderner großer Sprachmodelle zu entwickeln, kann Anthropic davon ausgehen, dass dies eine andere Risikostufe erreicht hat, und die Anfrage automatisch auf das ältere Modell zurückgreifen lassen.
Das bedeutet, dass das KI-Modell selbst nach und nach Teil der KI-F&E-Infrastruktur wird. In der Vergangenheit bedeutete die Einschränkung der Nutzung von Modellen vor allem die Einschränkung bestimmter gefährlicher Inhalte oder sensibler Bereiche; Jetzt beginnen die Modellhersteller, sich eingehender mit Fragen wie „Wer kann die neuesten Modelle zur Herstellung von Modellen der nächsten Generation nutzen“ und „ob die neuesten Modelle den Wettbewerbern bei der Optimierung ihrer eigenen KI-Computing-Infrastruktur helfen sollen“ zu befassen.
Derzeit hat Anthropic weder öffentlich erklärt, warum Trainium3 gleichzeitig mit Huawei 950DT Einschränkungen auslöst, noch wurde klargestellt, ob dieser Mechanismus in zukünftigen Versionen weiterhin bestehen bleibt. Da immer mehr Unternehmen damit beginnen, ihre eigenen KI-Beschleuniger zu entwickeln, wird diese Beschränkung auf spezifische Hardware und hochmoderne Modellentwicklungsaufgaben wahrscheinlich zu einem neuen Problem werden, mit dem sich Hersteller von KI-Modellen auseinandersetzen müssen, wenn sie Kompromisse zwischen Sicherheit, Verhinderung der Fähigkeitsdestillation und Hardwareökologie eingehen.
Kommentare