Zusammenfassung:
Anthropic, ein amerikanisches Unternehmen für künstliche Intelligenz, hat kürzlich einen Threat-Intelligence-Bericht veröffentlicht, in dem Institutionen wie Alibaba, Moonshot AI, DeepSeek, Xiaomi und mehrere andere chinesische KI-Labore beschuldigt werden, ihre Modellfähigkeiten durch groß angelegte Anrufe bei Claude zu extrahieren und die generierten Ergebnisse zum Trainieren und Verbessern ihrer eigenen Modelle für künstliche Intelligenz zu verwenden. Anthropic nennt dieses Verhalten einen unerlaubten „Destillationsangriff“.
Die sogenannte Modelldestillation bezieht sich auf die Verwendung eines Modells mit stärkeren Fähigkeiten und größerem Maßstab, um eine große Anzahl von Antworten zu generieren, und die anschließende Verwendung dieser Ergebnisse als Trainingsdaten, um Modelle mit geringeren Kosten, kleinerem Maßstab oder schwächeren Fähigkeiten zu trainieren. Für KI-Unternehmen ist dies ein technischer Weg, der die Schulungskosten senken und die Modellfähigkeiten schnell verbessern kann. Anthropic glaubt jedoch, dass einige der dieses Mal entdeckten Verhaltensweisen über den Rahmen der normalen Modelldestillation hinausgegangen sind und zur organisierten und groß angelegten Extraktion ihrer Geschäftsmodellfähigkeiten gehören.
Anthropic sagte, dass zwischen Mai und Juli 2026 Operationen im Zusammenhang mit Alibaba mehr als 151 Millionen Interaktionen mit Claude generierten, was es zum größten illegalen Destillationsbetrieb macht, den das Unternehmen bisher entdeckt hat. Bei den entsprechenden Vorgängen wurden mehr als 3.500 Konten verwendet, die Anthropic als betrügerisch identifizierte, und die höchste Anzahl an Interaktionen pro Tag lag bei fast 3 Millionen.
Anthropic glaubt, dass diese Konten hauptsächlich dazu verwendet werden, Claude kontinuierlich eine große Anzahl von Fragen zu stellen, die Antworten des Modells und detailliertere Argumentationsprozesse zu erhalten und diese Informationen dann zur Verbesserung der Tongyi Qianwen-Modellreihe von Alibaba zu verwenden.
Für Modellentwickler ist der Inferenzprozess besonders wertvoll. Im Vergleich dazu, nur die endgültige Antwort zu erhalten, können detaillierte Inferenzaufzeichnungen dem Trainer zeigen, wie das Modell das Problem analysiert hat, wie die Aufgabe zerlegt werden kann und wie zu der endgültigen Schlussfolgerung gelangt, und können daher zu wichtigen Daten für das Training fortgeschrittener Inferenzmodelle werden.
Anthropic nannte auch Dark Side of the Moon AI, den Entwickler von Kimi. Dem Bericht zufolge gab es zwischen Mai und Juli 2026 auf Konten im Zusammenhang mit Dark Side of the Moon mehr als 23 Millionen Interaktionen mit Claude.
Bemerkenswerter ist, dass Anthropic Dark Side of the Moon vorwarf, Claude nicht nur zur Modelldestillation zu verwenden, sondern auch echte Anfragen von Kimi-Benutzern zur Bearbeitung an Claude weiterzuleiten.
Anthropic gab an, dass Dark Side of the Moon während eines der 10-Tage-Zeiträume fast 300.000 ursprünglich an Kimi übermittelte Benutzeranfragen über ein Kontonetzwerk bestehend aus 5.380 Konten an Claude weitergeleitet hat, wobei die meisten Anfragen an die Modellreihe Claude Opus gesendet wurden. Anthropic geht davon aus, dass sich diese Konten hauptsächlich in Singapur und Japan befinden und dazu dienen, die tatsächliche Quelle der Anfragen zu verbergen.
Das bedeutet, dass Kimi-Benutzer in manchen Fällen denken, dass sie mit dem eigenen Modell von Dark Side of the Moon interagieren, die Anfrage jedoch möglicherweise zur Bearbeitung an Claude von Anthropic weitergeleitet wird. Anthropic sagte auch, dass Dark Side of the Moon einige der interaktiven Inhalte gespeichert und Claudes Argumentationsaufzeichnungen als Trainingsdaten extrahiert habe.
Noch besorgniserregender ist, dass es sich bei diesen weitergeleiteten Anfragen nicht unbedingt nur um gewöhnliche Chatinhalte handelt. Anthropic sagte, einige der Anfragen enthielten vertrauliche Informationen und die Benutzer seien sich möglicherweise nicht bewusst, dass ihre Daten tatsächlich an das Modell eines anderen KI-Unternehmens gesendet wurden.
Der Bericht zitiert einen Fall im Zusammenhang mit Kimi. Ein Benutzer bat Kimi, eine große Anzahl von Überwachungskameraaufnahmen aus Chengdu, China, zu analysieren, um das Verhalten einer Person zu ermitteln. Laut Anthropic wurden die Videodaten schließlich zur Verarbeitung an Claude übertragen, und die Benutzer gingen ursprünglich davon aus, dass die Daten innerhalb von Kimi analysiert wurden.
Anthropic entdeckte außerdem, dass einige von einigen Benutzern an Kimi übermittelte Inhalte vertrauliche Informationen wie Unternehmensanmeldeinformationen enthielten. In einem Fall übermittelte ein Ingenieur Anmeldeinformationen mehrerer Unternehmen an Kimi, um mit Kimi einem chinesischen Unternehmen bei der Entwicklung von Software zu helfen, und die relevanten Informationen wurden anschließend an Claude übertragen.
Anthropic gab an, dass Benutzer nicht genau wissen, dass ihre Anfragen an das Modell von Anthropic weitergeleitet werden. Daher kann dieser Ansatz nicht nur Probleme bei der Modelldestillation mit sich bringen, sondern auch ernsthafte Risiken für den Datenschutz und die Datensicherheit mit sich bringen.
DeepSeek wurde von Anthropic ebenfalls beschuldigt, einen ähnlichen Ansatz zu verfolgen. Dem Bericht zufolge hat DeepSeek im Juli 2026 innerhalb von 14 Tagen mehr als 12 Millionen Claude-bezogene Destillationsinteraktionen durchgeführt.
Anthropic geht davon aus, dass DeepSeek auch echte Anfragen von Benutzern an Claude weitergeleitet hat und dass einige der Inhalte dieser Anfragen vertrauliche Informationen enthielten. Claudes Antworten wurden dann verwendet, um die eigenen Modelle von DeepSeek zu trainieren und zu verbessern.
Anthropic nannte neben Alibaba, Dark Side of the Moon und DeepSeek auch chinesische KI-Unternehmen wie Zhipu und Xiaomi. Dem Bericht zufolge zeichnete Xiaomi Chats zwischen Benutzern und seinem MiMo-Modell auf und übergab diese Gespräche an Claude, um Daten für das Modelltraining zu generieren.
Anthropic gab an, dass im Berichtszeitraum insgesamt sieben chinesische KI-Labore Modelldestillationsaktivitäten gegen Claude durchgeführt hätten. Nicht alle verwandten Aktivitäten verwenden genau die gleiche Methode, aber das gemeinsame Merkmal besteht darin, dass sie versuchen, eine große Menge von Claudes Output zu erhalten, seine Modellfähigkeiten zu erlernen und diese Informationen für das Training ihrer eigenen KI-Systeme zu verwenden.
Anthropic ist davon überzeugt, dass diese Aktivitäten zunehmend organisierter und umfangreicher geworden sind. Im Gegensatz zu gewöhnlichen Entwicklern, die gelegentlich andere KI-Modelle zum Testen aufrufen, nutzen diese Vorgänge eine große Anzahl von Konten, Agenten und Zwischenplattformen, um ihre wahre Identität zu verbergen und kontinuierlich Modellinteraktionen im industriellen Maßstab zu generieren.
Unter ihnen haben Alibaba-bezogene Aktivitäten besondere Aufmerksamkeit erregt. Mehr als 151 Millionen Interaktionen bedeuteten, dass es sich bei der Operation nicht um einen einfachen experimentellen Test handelte, sondern um eine groß angelegte Datenerfassungsoperation, die mehrere Monate dauerte. Anthropic geht davon aus, dass diese Daten hauptsächlich dazu dienen, das Tongyi-Qianwen-Modell von Alibaba zu trainieren und zu verbessern.
Für Dark Side of the Moon und DeepSeek ist das Problem komplizierter, denn Anthropic wirft ihnen vor, nicht nur Trainingsdaten von Claude zu beziehen, sondern auch eigene Benutzeranfragen an konkurrierende Modelle weiterzuleiten. Dies bedeutet, dass von Benutzern an ein KI-Unternehmen übermittelte Inhalte ohne ausdrückliche Benachrichtigung in das System eines anderen KI-Unternehmens gelangen können.
Anthropic sagte, es habe Schritte unternommen, um diese Aktivitäten zu stoppen, einschließlich der Sperrung relevanter Konten, einer Verschärfung der Identitätsprüfung und einer weiteren Einschränkung von Claudes Fähigkeit, detaillierte Begründungen abzugeben. Da detaillierte Inferenzdatensätze für die Modelldestillation von großem Wert sind, kann die Reduzierung der Ausgabe dieser Inhalte die Effizienz von Wettbewerbern verringern, die Claudes Fähigkeiten durch eine große Anzahl automatisierter Anfragen replizieren.
Anthropic erklärte außerdem, dass das Unternehmen die Maßnahmen zur Identitätsüberprüfung für Benutzer aus Ländern oder Regionen verstärken wird, in denen Claude derzeit keine offiziellen Dienste anbietet, wie z. B. China, Russland und Iran, bei denen jedoch der Verdacht besteht, dass sie versuchen, Beschränkungen zu umgehen und auf Claude zuzugreifen.
Dieser Bericht ist nicht das erste Mal, dass Anthropic chinesischen KI-Unternehmen öffentlich Vorbild-Destillation vorwirft. Im Juni dieses Jahres schrieb die politische Direktorin von Anthropic, Sarah Heck, an US-Kongressabgeordnete und erklärte, dass Alibaba zwischen dem 22. April und dem 5. Juni etwa 28,8 Millionen Interaktionen mit Claude hatte und glaubte, dass diese Interaktionen zur unbefugten Modelldestillation genutzt wurden.
Dieser neueste Bericht zeigt, dass Anthropic davon ausgeht, dass der Umfang der damit verbundenen Aktivitäten in Zukunft noch weiter zunehmen wird. Allein Alibaba verzeichnete zwischen Mai und Juli mehr als 151 Millionen Interaktionen, weit mehr als zuvor veröffentlichte Zahlen.
Gleichzeitig ereignete sich dieser Vorfall vor dem Hintergrund eines immer härter werdenden KI-Wettbewerbs zwischen China und den Vereinigten Staaten. In den letzten Jahren haben chinesische KI-Unternehmen ihre Modellfähigkeiten bei relativ geringen Schulungs- und Inferenzkosten rasch verbessert. Produkte wie DeepSeek, Kimi und Tongyi Qianwen sind zu wichtigen Akteuren in der globalen KI-Branche geworden. Amerikanische KI-Unternehmen verfügen über fortschrittliche Basismodelle, darunter die Serien Claude und GPT.
Die Modelldestillation selbst ist keine illegale oder unangemessene Technik. KI-Entwickler können die vom Lehrermodell generierten Daten nutzen, um ihre eigenen Modelle mit Autorisierung zu trainieren. Allerdings ist Anthropic der Ansicht, dass der Vorgang ein ernstes Problem darstellt, da den betreffenden Unternehmen vorgeworfen wird, sie hätten sich systematisch und ohne Genehmigung von Anthropic über eine Vielzahl gefälschter Konten, Agenturplattformen und versteckter Datenweiterleitungsmechanismen die Fähigkeiten von Claude verschafft.
Noch wichtiger ist, dass Anthropic davon überzeugt ist, dass einige Maßnahmen Probleme mit der Sicherheit von Benutzerdaten berührt haben. Benutzer, die normalerweise KI-Dienste nutzen, gehen normalerweise davon aus, dass die Daten, die sie an Plattformen wie Kimi und DeepSeek übermitteln, in Übereinstimmung mit den Datenschutzrichtlinien dieser Plattformen verarbeitet werden. Wenn die Plattform diese Anfragen tatsächlich an ein Drittmodell weiterleitet, wissen Benutzer möglicherweise nicht, dass ihre Daten in das System eines anderen Unternehmens gelangt sind.
Zum Zeitpunkt des Berichts reagierten Alibaba, Dark Side of the Moon, DeepSeek, Xiaomi und Anthropic nicht sofort auf Anfragen nach Kommentaren. Das chinesische Außenministerium erklärte, dass ihm der von Anthropic veröffentlichte Bericht nicht bekannt sei, und bekräftigte, dass die chinesische Regierung der Ansicht sei, dass künstliche Intelligenz zum Wohle der Menschheit eingesetzt werden sollte, und sich gegen die Verzerrung von Fakten und die Verunglimpfung Chinas wende.
Der von Anthropic aufgedeckte Vorfall hat auch die langjährige Kontroverse um die Modelldestillation in der KI-Branche wieder an die Oberfläche gebracht. Für Unternehmen mit fortgeschrittenen Basismodellen ist die Frage, wie Wettbewerber durch Automatisierung und groß angelegte Anrufe daran gehindert werden können, Modellfähigkeiten zu erwerben, zu einem wichtigen Thema im Geschäfts- und Sicherheitsbereich geworden. Für KI-Anwendungsunternehmen könnte auch der Umgang mit Benutzerdaten und die Frage, ob Benutzer klar darüber informiert werden sollten, dass Anfragen an Modelle von Drittanbietern weitergeleitet werden, künftig im Mittelpunkt der regulatorischen Aufmerksamkeit stehen.
Aus Sicht des Branchenwettbewerbs sind die von Anthropic veröffentlichten Zahlen besonders bemerkenswert. Mehr als 151 Millionen Alibaba-bezogene Interaktionen, mehr als 23 Millionen Dark Side of the Moon-bezogene Interaktionen und mehr als 12 Millionen DeepSeek-bezogene Interaktionen zeigen, dass es beim Wettbewerb zwischen fortschrittlichen KI-Modellen nicht mehr nur um Algorithmen und Chips im herkömmlichen Sinne geht, sondern sich auch auf Bereiche wie Trainingsdaten, Modellfähigkeitserfassung und Modelldestillation erstreckt.
Da sich die Fähigkeitslücke zwischen verschiedenen KI-Modellen immer weiter verringert, wird die Frage, wie eine klare Grenze zwischen der legalen Nutzung öffentlicher Technologie, der normalen Modelldestillation und der unbefugten Vervielfältigung von Fähigkeiten in großem Maßstab gezogen werden kann, zu einem immer schwierigeren Problem, mit dem sich die globale KI-Branche in Zukunft auseinandersetzen muss.
Kommentare