Zusammenfassung:
Dario Amodei, CEO von Anthropic, schlug ein dreistufiges Sicherheitsrahmenwerk für künstliche Intelligenz vor und befürwortete die Kontrolle der Geschwindigkeit der Verbesserung modernster Modellfunktionen, um Zeit für Sicherheits- und Ausrichtungsforschung zu gewinnen. Anthropic wird das erste Unternehmen sein, das externen Gutachtern langfristigen Zugang zum Unternehmen ermöglicht, um Sicherheitsmaßnahmen zu überprüfen, Vorfälle zu melden und den Modellschulungsprozess zu bewerten.
Anthropic wird ein permanentes externes Evaluierungsteam einführen
Amodei schlug in einem Artikel mit dem Titel „Die Geschwindigkeit des Frontier-Fortschritts muss kontrolliert werden“ vor, dass hochmoderne Unternehmen für künstliche Intelligenz unabhängigen Bewertungsteams Dritter einen kontinuierlichen internen Zugriff bieten sollten, der den normalen Mitarbeitern nahe kommt. Die Gutachter überprüfen, ob Unternehmen ihre Sicherheitsverpflichtungen einhalten, untersuchen und melden Vorfälle und führen Ausrichtungsbewertungen von Modellen und ihren Schulungsprozessen durch.
Anthropic hat sich dazu verpflichtet, diese Maßnahme einseitig umzusetzen und plant, externen Gutachtern Büroräume, Zugangsausweise, Unternehmensausrüstung sowie etwa gleichwertigen Arbeitsplatz- und Werkzeugzugang für das interne Risikobewertungsteam zur Verfügung zu stellen. Ausnahmen können für Inhalte gemacht werden, die rechtliche Beschränkungen, die Privatsphäre des Kunden oder Geschäftsgeheimnisse betreffen.
Der externe Gutachter wird befugt, unabhängig wichtige Erkenntnisse zu Risiken, Vorfällen und Sicherheitspraktiken des Unternehmens zu erstellen. Anthropic kann begrenzte Schwärzungen von Informationen vornehmen, die Sicherheit, rechtliche Privilegien und die Vertraulichkeit Dritter betreffen, kann die Veröffentlichung jedoch nicht allein deshalb verhindern, weil die Schlussfolgerung für das Unternehmen ungünstig ist. Gutachter können auch öffentlich erklären, ob die Streichungen ihr Urteil beeinflusst haben.
Das dreistufige Rahmenwerk erfordert die Beteiligung von Industrie und Regierung
Zusätzlich zur Hinzuziehung unabhängiger Gutachter würde die zweite Phase der von Amodei vorgeschlagenen Maßnahmen erfordern, dass hochmoderne Unternehmen für künstliche Intelligenz in demokratischen Ländern die Entwicklung gemeinsamer Sicherheitsstandards koordinieren und den ungehinderten Wettbewerb bei den Modellfähigkeiten begrenzen.
Einige Koordinierungen zwischen Unternehmen können durch Kartellgesetze eingeschränkt sein, daher muss die Regierung institutionelle Unterstützung leisten. Amodei plädierte dafür, dass die Branche, sobald genügend Unternehmen externe Aufsicht akzeptieren, in der Lage sein wird, überprüfbare Verzögerungsvereinbarungen zu entwickeln, die auf Modellkompetenzen und Schulungsprozessen basieren.
Die dritte Phase umfasst die internationale Koordination. Amodei schlug vor, dass demokratische Länder gemeinsame Sicherheitsregeln mit anderen Regierungen, einschließlich autoritären Ländern, besprechen sollten, beginnend mit Bereichen von gemeinsamem Interesse wie dem Verbot des Einsatzes künstlicher Intelligenz zur Entwicklung biologischer Waffen.
Die Modellfähigkeiten verbessern sich möglicherweise schneller als die Risikokontrolle
Amodei sagte, dass die jüngste Verbesserung der Fähigkeit von Modellen der künstlichen Intelligenz, an der Entwicklung von Modellen der nächsten Generation teilzunehmen, technologische Iterationen beschleunigen könnte. Wenn sich die Modellfähigkeiten weiterhin rasch verbessern, kann es sein, dass die Fähigkeit des Menschen, verwandte Systeme zu verstehen, zu bewerten und zu steuern, nicht mithalten kann.
Er schätzt, dass in den nächsten ein bis zwei Jahren erhebliche Fortschritte in Bereichen wie Modellinterpretierbarkeit, Sicherheitsbewertung, Ausrichtungsforschung und Betriebsspezifikationen erzielt werden können. Durch die richtige Steuerung der Geschwindigkeit der Fähigkeitsentwicklung kann Zeit für diese Maßnahmen gewonnen werden, ohne dass die Industrie die Forschung und Entwicklung im Bereich der künstlichen Intelligenz vollständig einstellen muss.
Sam Altman, CEO von OpenAI, unterstützte später die Einführung unabhängiger Gutachter und sagte, dass OpenAI ähnliche Vereinbarungen treffen würde. Auch Elon Musk hat Amodeis Forderung, die Modellentwicklung zu verlangsamen, öffentlich zugestimmt.
Kommentare