Zusammenfassung:
Anthropic sagte am Montag, dass neue Maßnahmen, die darauf abzielen, Konkurrenten daran zu hindern, die Fähigkeiten seines Claude-KI-Modells zu kopieren, die Menge der durch sogenannte „Destillationsangriffe“ gestohlenen Daten um etwa 90 % bis 99 % reduziert haben.
Modelldestillation ist zu einem Schwerpunkt führender Unternehmen für künstliche Intelligenz geworden; Unternehmen wie Anthropic, OpenAI und Google glauben, dass diese Praxis es Wettbewerbern ermöglicht, ihre erweiterten Fähigkeiten zu geringeren Kosten und schneller zu kopieren.
Anthropic sagte, dass Schutzmaßnahmen, die darauf abzielen, den Zugriff auf Claudes Inferenzfähigkeiten einzuschränken, die Extraktionsversuche gegen das Modell deutlich reduziert haben und dass die „Anzahl der durch Destillation extrahierten Inferenztoken“ nun auf „1/100 bis 1/10 des vorherigen Niveaus“ gesunken sei.
Das in Kalifornien ansässige Unternehmen sagte, es habe es schwieriger gemacht, ein Netzwerk von Agenten zu nutzen, um Claudes geschützten Inferenzprozess wiederholt zu untersuchen, wodurch Datenextraktionsversuche blockiert und groß angelegte Modelldestillationskampagnen behindert würden.
Anthropic sagt, dass sein Sicherheitssystem „in etwa einem System gleichwertig ist, das Claude daran gehindert hätte, bei der Entwicklung einer biologischen Waffe mitzuwirken“ und eine „Falsch-Positiv-Rate von weniger als 0,1 Prozent“ aufweist.
Kommentare