Laut Time Magazine hat das amerikanische KI-Startup Anthropic große Erfolge erzielt und bezeichnet sich selbst als das sicherheitsorientierteste Unternehmen unter den führenden KI-Forschungslabors. Führungskräfte von Anthropic sagten jedoch gegenüber der Times:Das Unternehmen gibt ein Kernversprechen seiner Flaggschiff-Sicherheitspolitik auf.
Anthropic versprach 2023, niemals ein KI-System zu trainieren, es sei denn, es könne im Vorfeld für angemessene Sicherheitsmaßnahmen sorgen. Dieses Engagement wird zu einem Grundpfeiler der Responsible Scaling Policy (RSP) von Anthropic. Seit Jahren rühmen die Führungskräfte von Anthropic dieses Engagement als Beweis dafür, dass sie ein verantwortungsbewusstes Unternehmen sind, das den Versuchungen des Marktes widerstehen kann und nicht in Eile ist, potenziell gefährliche Technologien zu entwickeln.
Doch in den letzten Monaten beschloss das Unternehmen, RSP zu überarbeiten.Die Entscheidung beinhaltet die Aufgabe einer ursprünglichen Verpflichtung, keine KI-Modelle zu veröffentlichen, ohne im Voraus geeignete Maßnahmen zur Risikominderung sicherzustellen.
„Wir glauben, dass es niemandem hilft, mit dem Training von KI-Modellen aufzuhören“, sagte Jared Kaplan, Chief Science Officer bei Anthropic, in einem exklusiven Interview mit TIME. „Da die KI rasant voranschreitet,Wir halten es nicht für sinnvoll, einseitige Verpflichtungen einzugehen, wenn unsere Konkurrenten schnell auf dem Vormarsch sind."
Zu den neuen Richtlinien von Anthropic, die von The Times überprüft wurden, gehören: die Verpflichtung, hinsichtlich KI-Sicherheitsrisiken transparenter zu sein, einschließlich zusätzlicher Offenlegung der Leistung der eigenen Modelle von Anthropic in Sicherheitstests; die Verpflichtung, in Sicherheit zu investieren und das Niveau der Wettbewerber zu übertreffen; und eine Verpflichtung, den KI-Entwicklungsprozess von Anthropic zu „verzögern“, wenn die Führung glaubt, dass Anthropic führend im KI-Wettlauf ist und die Möglichkeit katastrophaler Risiken hoch ist.
Aber insgesamt hat diese Anpassung des RSP die Einschränkungen der Sicherheitspolitik von Anthropic erheblich reduziert. Zuvor verbot die Richtlinie Unternehmen ausdrücklich, Modelle ab einem bestimmten Niveau ohne entsprechende Sicherheitsmaßnahmen zu trainieren.
Anthropic sieht sich derzeit starker Konkurrenz durch Konkurrenten wie OpenAI, Elon Musks xAI und Google ausgesetzt, die alle regelmäßig hochmoderne Tools veröffentlichen. Das Unternehmen befindet sich außerdem in einem Streit mit dem US-Verteidigungsministerium über die Verwendung seines Claude-Tools. Anthropic hat dem Pentagon zuvor mitgeteilt, dass die Werkzeuge nicht für die Überwachung im Inland oder tödliche autonome Operationen verwendet werden dürfen. Allerdings stellte das US-Verteidigungsministerium auch ein Ultimatum an Anthropic und drohte mit der Kündigung des Vertrags von Anthropic, falls die Nutzung eingeschränkt würde.
Anthropic gab an, dass diese Anpassung der Sicherheitspolitik eine Aktualisierung sei, die auf der Geschwindigkeit der KI-Entwicklung und dem Fehlen relevanter Vorschriften auf Bundesebene basiere.
Ein Anthropic-Sprecher sagte, dass diese AnpassungEntwickelt, um Unternehmen dabei zu helfen, in einem uneinheitlichen politischen Kontext mit mehreren Wettbewerbern zu konkurrieren.In diesem Umfeld müssen Unternehmen selbst beurteilen, ob Sicherheitsmaßnahmen ausreichend sind. Sie sagte auch, dass die Sicherheitsverpflichtung nichts mit den Pentagon-Verhandlungen zu tun habe.
„Das politische Umfeld hat sich in Richtung KI-Wettbewerbsfähigkeit und Wirtschaftswachstum verlagert, während sicherheitsorientierte Diskussionen auf Bundesebene noch keinen nennenswerten Einfluss haben“, sagte Anthropic in einem Blogbeitrag, in dem die Änderung angekündigt wurde. Das Unternehmen sagte, es sei weiterhin bestrebt, branchenführende Sicherheitsstandards einzuhalten.