Anthropic beschuldigte kürzlich öffentlich die chinesischen KI-Unternehmen DeepSeek, MiniMax und Moonshot, ihr großes Modell Claude massiv missbraucht zu haben, um ihre Produktfähigkeiten zu verbessern, und definierte dieses Verhalten als „Missbrauch im industriellen Maßstab“. Die Aktivität umfasste etwa 24.000 gefälschte Konten und mehr als 16 Millionen Interaktionen mit Claude, teilte das Unternehmen am Montag in einer Erklärung im Anschluss an einen Bericht des Wall Street Journal mit.
Berichten zufolge wird diesen Unternehmen vorgeworfen, die sogenannte „Destillations“-Technologie zu nutzen, um Fähigkeiten aus fortgeschritteneren Modellen wie Claude zu extrahieren und kleinere Modelle zu trainieren. Anthropic räumte in seiner Beschreibung ein, dass die Modelldestillation selbst eine „legitime Trainingsmethode“ sei, betonte aber auch, dass diese Methode „auch für unangemessene Zwecke eingesetzt werden kann“, etwa um leistungsstarke Fähigkeiten von anderen Labors zu einem Preis zu erhalten, der weit unter den Zeit- und Kapitalkosten unabhängiger Forschung und Entwicklung liegt.
Anthropic warnt ausdrücklich davor, dass Modelle, die auf diese Weise durch illegale Destillation gewonnen wurden, höchstwahrscheinlich nicht die Sicherheitsschutz- und Beschränkungsmechanismen des Originalmodells erben werden. „Ausländische Labore, die US-Modelle destillieren, können diese Sicherheitsbeschränkungen umgehen und ungeschützte Fähigkeiten direkt in Militär-, Geheimdienst- und Überwachungssysteme einspeisen, wodurch autoritäre Regierungen modernste KI für offensive Cyberoperationen, Desinformationsverbreitung und Massenüberwachung nutzen können“, stellte das Unternehmen fest.
Bei diesem Vorfall hat DeepSeek die meiste Aufmerksamkeit auf sich gezogen – dieses Unternehmen hat mit seinen recheneffizienteren und leistungsfähigeren Modellen für Aufsehen in der globalen KI-Branche gesorgt. Anthropic sagte, dass es mehr als 150.000 Interaktionen zwischen DeepSeek und Claude gab, wobei ein besonderer Schwerpunkt auf Claudes Denkfähigkeiten lag. Darüber hinaus wird DeepSeek auch vorgeworfen, Claude zur Generierung „zensurfreundlicher alternativer Ausdrücke“ zur Beantwortung politisch sensibler Fragen im Zusammenhang mit Dissidenten, Parteiführern oder Autoritarismus zu verwenden, um die Filterung des Zensursystems des Landes zu umgehen.
Zweifel an DeepSeek kommen nicht nur von Anthropic. Erst vor einer Woche warf OpenAI DeepSeek in einem Brief an den US-Gesetzgeber außerdem vor, ähnliche Destillationsmethoden zu verwenden, um die von OpenAI und anderen US-Unternehmen seit langem entwickelten Modellfähigkeiten als „Trittbrettfahrer“ auszunutzen, um Wettbewerbsvorteile zu erzielen. Der Brief positioniert DeepSeek auch als Bedrohung für das US-amerikanische KI-Ökosystem und die Technologieführerschaft.
Derzeit hat Anthropic den weiteren rechtlichen oder regulatorischen Handlungsweg in einer öffentlichen Erklärung nicht im Detail offengelegt, aber indem das Unternehmen die Angelegenheit auf die Ebene der nationalen Sicherheit und der globalen KI-Governance hebt, hofft das Unternehmen offensichtlich, Regulierungsbehörden und politische Entscheidungsträger dazu zu bringen, sich dem Risiko eines „Missbrauchs der Modelldestillation“ zu stellen. In einer Zeit, in der der globale KI-Wettbewerb immer härter wird und grenzüberschreitende Technologieflüsse äußerst heikel sind, hat dieser Vorwurf die Spannungen im Wettbewerb und Sicherheitsspiel zwischen China und den Vereinigten Staaten in der KI-Technologie weiter verschärft.