Zusammenfassung:
Anthropic, ein Unternehmen für künstliche Intelligenz, hat dem US-Gesetzgeber kürzlich privat einen Entwurf eines Gesetzes zur Sicherheit künstlicher Intelligenz vorgelegt, um einen Regulierungsrahmen auf Bundesebene für fortschrittliche KI-Modelle zu schaffen. Dem Vorschlag zufolge kann die Freigabe und Verwendung eines KI-Modells blockiert werden, wenn festgestellt wird, dass es ein vorhersehbares und unmittelbar bevorstehendes katastrophales Risiko birgt, das zu mehr als 50 Todesfällen oder schweren Verletzungen führen oder Sachschäden in Höhe von mehr als 1 Milliarde US-Dollar verursachen kann.
Den offengelegten Informationen zufolge zielt der Gesetzentwurf nicht auf alle Anwendungen der künstlichen Intelligenz ab, sondern konzentriert sich auf die fortschrittlichsten „Spitzenmodelle“. Der Vorschlag legt eine klare Schwelle für Eingriffe fest, und nur in extremen Risikosituationen können Regulierungsbehörden rechtliche Schritte einleiten, um den Modelleinsatz einzuschränken.
Die im Entwurf aufgeführten Risiken konzentrieren sich hauptsächlich auf drei Bereiche: Unterstützung bei der Herstellung oder Freisetzung biologischer Waffen, Modelle, die sich der Kontrolle von Entwicklern entziehen, und groß angelegte Cyberangriffe, an denen Modelle beteiligt sind oder die von ihnen gefördert werden. Erst wenn sich aus diesen konkreten Szenarien Risiken ergeben, werden Regulierungsmechanismen ausgelöst.
Es ist erwähnenswert, dass die von Anthropic vorgeschlagenen Risikostandards dem Senatsgesetz 53 ähneln, das zuvor von Kalifornien, USA, verabschiedet wurde. Letzteres definiert auch Situationen, die eine große Zahl von Opfern oder große wirtschaftliche Verluste nach sich ziehen können, als „katastrophale Risiken“.
Was den spezifischen Umsetzungsmechanismus betrifft, schlägt der Gesetzentwurf die Einrichtung eines unabhängigen Bewertungssystems vor, das vom US-Handelsministerium registriert und verwaltet wird. Diese Bewertungsagenturen oder Experten sind dafür verantwortlich, Sicherheitsbewertungen modernster KI-Modelle und ihrer Entwicklungsunternehmen durchzuführen und festzustellen, ob relevante Modelle erhebliche Risiken bergen.
Laut dem Vereinbarungsentwurf ist diese Partnerschaft auch dann zulässig, wenn die Evaluierungsagentur vom KI-Unternehmen bezahlt wird, solange die Zahlung nicht in direktem Zusammenhang mit den Evaluierungsergebnissen steht. Diese Regelung hat jedoch auch bei einigen Brancheninsidern Zweifel hervorgerufen, die glauben, dass die Unabhängigkeit und Objektivität der Bewertungsagentur vor Herausforderungen stehen könnte.
Wenn Gutachter feststellen, dass ein Modell ein unmittelbares Katastrophenrisiko darstellt, müssen sie dies innerhalb von 72 Stunden nach Abschluss der Bewertung dem US-Handelsministerium melden. Das Handelsministerium könnte dann einen Antrag bei einem Bundesgericht in Washington, D.C. stellen und einen Richter bitten, ein Moratorium für die Freigabe oder den Einsatz des Modells zu gewähren.
Im Gegensatz zu einigen Regulierungsplänen betont Anthropic in seinem Vorschlag ausdrücklich, dass Verwaltungsbehörden nicht befugt sind, Modelle einseitig zu stoppen. Nach dem Entwurf könnte letztlich nur ein Bundesrichter ein Moratorium erlassen. Mit anderen Worten: Keine Regierungsbehörde kann einem KI-Modell unter Umgehung gerichtlicher Verfahren direkt verbieten, online zu gehen oder es zu nutzen.
Anthropic hat die endgültige Fassung des Gesetzentwurfs nicht öffentlich bekannt gegeben, aber ein Unternehmenssprecher hat bestätigt, dass der Entwurf existiert und gesagt, dass seine Kernideen aus dem Anfang des Jahres vorgeschlagenen „Advanced Artificial Intelligence Framework“ stammen. Das Rahmenwerk befürwortet strengere Tests, mehr Transparenz und die Einführung unabhängiger Bewertungsmechanismen Dritter für die leistungsstärksten KI-Systeme.
Während sich die Fähigkeiten der künstlichen Intelligenz weiter verbessern, wird auch die Debatte über Fragen der KI-Sicherheit in der US-amerikanischen Technologiebranche und den Aufsichtsbehörden immer hitziger. Befürworter glauben, dass der von Anthropic vorgeschlagene Plan klare Verfahren und eine Rechtsgrundlage für staatliche Eingriffe in Hochrisiko-KI bietet; Kritiker gehen hingegen davon aus, dass die zu hohe Eingriffsschwelle und die Abhängigkeit von Selbstbewertungsmechanismen der Industrie es in Zukunft möglicherweise schwierig machen, umfassend auf komplexere Risiken der künstlichen Intelligenz zu reagieren.
Derzeit befindet sich dieser Vorschlag noch in der Diskussionsphase, wurde dem US-Kongress noch nicht offiziell zur Prüfung vorgelegt und hat keine rechtliche Wirkung. Da es sich jedoch um einen der ersten bundesstaatlichen Regulierungspläne handelt, die proaktiv von großen KI-Unternehmen vorgeschlagen wurden, wird erwartet, dass sein Inhalt einen wichtigen Einfluss auf künftige Diskussionen über die Gesetzgebung zu künstlicher Intelligenz in den Vereinigten Staaten haben wird.
Kommentare