Zusammenfassung:
Anthropic hat externen Gutachtern nahezu internen Zugriff auf Mitarbeiterebene gewährt, um das Risiko seines großen Modells zu bewerten. Dieser Schritt erfüllt das Versprechen des Unternehmens, die Sicherheitsschutzmechanismen als Reaktion auf externe Bedenken, dass die KI-Technologie katastrophal außer Kontrolle geraten könnte, weiter zu stärken.
METR, eine gemeinnützige Organisation, hat mit führenden KI-Laboren wie OpenAI, Anthropic, Google und Meta zusammengearbeitet. Jetzt ist das Team von METR im Büro des Claude-Entwicklers stationiert und hat Zugriff auf dessen Hardware-Ausrüstung und interne Systeme.
Die Außenwelt ist zunehmend besorgt über die Risiken, die leistungsfähigere KI-Systeme für die Wirtschaft, die Netzwerksicherheit und sogar die gesamte Menschheit mit sich bringen könnten. Eine der zentralen Umsetzungsmaßnahmen, die von großen KI-Laboren vorgeschlagen wird, besteht darin, externen Bewertungsagenturen größere Verantwortung zu übertragen.
Im September dieses Jahres schlug Anthropic-CEO Dario Amodei einen Plan zur Entsendung externer Prüfer in das zentrale KI-Labor vor, der von zwei großen Konkurrenten, Sam Altman (OpenAI) und Elon Musk (SpaceX), nur selten unterstützt wurde.
Die Ankündigung vom Donnerstag ist der erste Schritt zur Umsetzung dieser Verpflichtungen. Altman sagte, dass Amodays Vorschlag machbar sei, aber OpenAI hat noch keine Pläne zur Einführung externer Bewerter vorgelegt.
Anthropic sagte am Donnerstag: „Da die Modellfähigkeiten weiter zunehmen, brauchen wir einen besseren Sicherheitsschutz und schwierigere Risikobewertungen. Wir hoffen, dass unsere Entscheidungen der öffentlichen Aufsicht standhalten, aber alle Informationen im Zusammenhang mit Sicherheitsarbeiten dürfen nicht an die Außenwelt weitergegeben werden.“
Kritiker des Plans von Anthropic, externe Gutachter einzuführen, glauben, dass dieser Mechanismus zu Interessenkonflikten führen könnte, und nutzen die vergangenen Missstände der Buchhaltungsbranche als Beispiel, um die Einführung einer strengeren staatlichen Aufsicht zu befürworten.
Anthropic argumentierte, dass die Offenlegung aller Informationen von böswilligen Akteuren oder Konkurrenten genutzt werden könnte; Außerdem fügte sie hinzu, dass das Arbeitsmodell dieser Gutachtergruppe dem der Bankenaufsicht ähnelt: Regulierungsbehörden entsenden ständige Gutachter zur Arbeit in Großbanken.
Das Unternehmen sagte: „Wenn riskante Geschäfte einer Bank öffentliche Interessen gefährden, müssen Dritte in der Lage sein, versteckte Gefahren im Voraus zu erkennen.“
Anthropic steht auch unter Druck, den Anlegern zu versichern, dass sicherheitsrelevante Probleme keinen Einfluss auf den geplanten Börsengang in diesem Jahr haben werden, wobei das Unternehmen voraussichtlich einen Wert von mehr als 2 Billionen US-Dollar haben wird. Diese Woche widmeten die Präsentationsmaterialien des Unternehmens für Investoren der Vorstellung seiner Sicherheitskontrollmaßnahmen viel Raum.
METR war einst an der Untersuchung des außer Kontrolle geratenen OpenAI-Modelleinbruchs in Hugging Face beteiligt, überprüfte Tausende von Protokollen und rüstete Unternehmens-Laptops für die Durchführung der Arbeit aus.
Derzeit hat Anthropic sechs METR-Mitarbeiter aufgenommen, ihnen Unternehmenshardware und Büroräume zur Verfügung gestellt und ihnen Zugriff auf interne Tools und Systeme gewährt, die in etwa dem Niveau des internen Risikobewertungsteams des Unternehmens entsprechen.
Das KI-Labor sagte, es ermutige Mitarbeiter, Informationen mit Gutachtern zu teilen, genau wie sie es mit Kollegen in der internen Risikoabteilung tun würden.
Anthropic zahlt für diese Zusammenarbeit keine Gebühren an METR. Die Forschungseinrichtung nimmt keine Spenden von KI-Unternehmen und deren Mitarbeitern entgegen. Die Mittel stammen aus Spenden von Einzelpersonen, öffentlichen Wohlfahrtsorganisationen und Regierungsbehörden wie dem britischen Artificial Intelligence Safety Institute.
Die Gutachter geben den Analysebericht an die Außenwelt weiter und Anthropic hat kein Recht, ein Veto gegen die Veröffentlichung des Berichts einzulegen. Unternehmen können Gutachter jedoch auffordern, bestimmte Kategorien von Informationen zu schwärzen, etwa Kundendaten, Inhalte, die durch das Anwaltsgeheimnis geschützt sind, und Details zur Modellarchitektur.
Anthropic arbeitet auch weiterhin mit Accenture zusammen. Die beiden Parteien gaben letzten Monat bekannt, dass sie Sicherheitstestpartner geworden sind und sich jeweils dazu verpflichten, mindestens 1 Milliarde US-Dollar in den Aufbau eines neuen Sicherheitsschutzsystems zu investieren. Es gibt auch eine externe Prüforganisation, SecureBio, die speziell Risiken im Zusammenhang mit chemischen und biologischen Waffen prüft.
Anthropic sagte: „Wir entsenden freiwillig externe Gutachter und glauben, dass alle führenden KI-Unternehmen den gleichen Ansatz verfolgen sollten.“
Kommentare