Zusammenfassung:
Repräsentant. Ro Khanna, ein kalifornischer Demokrat, ist dabei, dem Kongress einen umfassenden Gesetzentwurf zur Regulierung künstlicher Intelligenz vorzulegen, in der Hoffnung, den bisher strengsten bundesstaatlichen Regulierungsrahmen für modernste KI-Technologie zu schaffen. Der Vorschlag fordert nicht nur die Einführung eines verschuldensunabhängigen Haftungssystems, sondern sieht auch vor, die Nutzung künstlicher Intelligenzsysteme mit „rekursiver Selbstverbesserung“-Fähigkeiten zu verbieten, bis die Bundesregierung ein vollständiges Sicherheitssystem eingerichtet hat.
Dieser Gesetzentwurf trägt den Namen „Human Control Over AI Act“. Der Hintergrund für die Einführung des Gesetzentwurfs liegt in einer Zeit, in der in US-amerikanischen Technologie- und Politikkreisen die Besorgnis über die potenziellen Risiken fortschrittlicher künstlicher Intelligenz weiter zunimmt. In den letzten Jahren haben viele Führungskräfte von KI-Unternehmen öffentlich gewarnt, dass einige Systeme der künstlichen Intelligenz in Zukunft die menschlichen Kontrollmöglichkeiten übersteigen könnten, aber der Kongress muss noch einen umfassenden Regulierungsplan ausarbeiten.
Ro Cana sagte in einem Interview, dass künstliche Intelligenz nicht nur das Risiko birgt, missbraucht zu werden, sondern auch das Risiko eines Kontrollverlusts mit sich bringen kann. Er glaubt, dass die Menschen diese beiden Arten von Problemen ernst nehmen müssen, da die Entwicklung verwandter Technologien Sicherheitsfragen auf zivilisatorischer Ebene berührt hat.
Dem Inhalt des Gesetzentwurfs zufolge soll sogenannte „rekursive Selbstverbesserung“ künstlicher Intelligenz verboten werden. Diese Art von System wird als ein Modell der künstlichen Intelligenz definiert, das seine eigenen Fähigkeiten autonom verbessern oder seine Kernziele, Kontrollmechanismen und Abschaltregeln ändern kann.
Wie im Vorschlag vorgesehen, wären keine damit verbundenen Aktivitäten zulässig, bis bundesstaatliche Sicherheitsvorschriften festgelegt sind. Selbst wenn es in Zukunft eröffnet wird, muss es von spezialisierten Aufsichtsbehörden genehmigt werden.
Der Gesetzentwurf sieht außerdem die Einrichtung einer neuen bundesstaatlichen Regulierungsbehörde für künstliche Intelligenz vor, die Unternehmen beaufsichtigen soll, die hochmoderne Modelle wie OpenAI, Anthropic, Google DeepMind und xAI entwickeln.
Die Agentur wird mehrere Verantwortlichkeiten haben, darunter die Formulierung von KI-Sicherheitsvorschriften, die Einrichtung eines Lizenzsystems für Modellschulung und -einsatz, die Durchführung hochmoderner Modellaudits und die Entwicklung von Standards für kontinuierliche Tests und eine wirksame menschliche Kontrolle.
Gleichzeitig wird die neue Behörde auch für die Formulierung einer Reihe technischer Sicherheitsanforderungen verantwortlich sein, darunter isolierte Testumgebungen, Netzwerkisolationsmaßnahmen, Notabschaltsysteme und Kontrollmechanismen, um zu verhindern, dass Modelle die experimentelle Umgebung verlassen und in den offenen Internetbetrieb gelangen.
Im Rahmen des Plans müssen sich alle Labore, die an der Entwicklung hochmoderner Modelle arbeiten, unabhängigen Audits unterziehen. Wirtschaftsprüfer bleiben lange Zeit in relevanten Institutionen und berichten direkt an die Aufsichtsbehörden, anstatt Informationen über die Unternehmensleitung weiterzugeben.
Zusätzlich zum eigentlichen Regulierungsmodell sieht der Gesetzentwurf auch vor, einige fortschrittliche KI-Chips und Rechenleistungsressourcen in den Aufsichtsbereich einzubeziehen, um die Aufsicht über risikoreiche Aktivitäten zur Entwicklung künstlicher Intelligenz weiter zu stärken.
Der Gesetzentwurf nimmt eine ausgesprochen strenge Haltung zum Haftungssystem ein.
Der Vorschlag verpflichtet Unternehmen für künstliche Intelligenz, vor der Veröffentlichung fortschrittlicher Modelle eine umfassende Haftpflichtversicherung abzuschließen, um sicherzustellen, dass sie künftige Schäden kompensieren können.
Gleichzeitig führt der Gesetzentwurf auch einen strafrechtlichen Haftungsmechanismus ein. Jeder Mitarbeiter, der wissentlich Sicherheitsmaßnahmen ausschaltet, Notstopps deaktiviert, Protokollaufzeichnungen manipuliert, Isolationssysteme durchbricht oder wissentlich Modelle ohne Genehmigung einsetzt, kann mit strafrechtlichen Sanktionen rechnen.
Noch besorgniserregender ist, dass der Gesetzentwurf auch Bestimmungen zur strafrechtlichen Haftung im Zusammenhang mit „Handlungen, die die Menschlichkeit gefährden“ vorsieht. Wenn bestimmte Systeme der künstlichen Intelligenz großen Schaden für die Zivilbevölkerung verursachen, kann das damit verbundene Einsatzverhalten schwerwiegendere rechtliche Konsequenzen nach sich ziehen.
Ro Kana sagte, dass dieser Gesetzentwurf derzeit einer der umfassendsten Regulierungsvorschläge für die Sicherheit künstlicher Intelligenz sei. Er betonte, dass der Inhalt des Gesetzentwurfs hauptsächlich aus einem langfristigen Austausch mit Sicherheitsforschungsgruppen für künstliche Intelligenz stammt und nicht auf der Grundlage der Meinungen großer Technologieunternehmen formuliert wurde.
Gleichzeitig forderte Khanna die US-Regierung auf, die Zusammenarbeit im Bereich der Sicherheit im Bereich der künstlichen Intelligenz auf internationaler Ebene zu fördern, einschließlich des Abschlusses eines durchsetzbaren Sicherheitsabkommens mit China und der Einrichtung von Verifizierungs-, Überprüfungs- und Kontrollmechanismen, um das Risiko der Verbreitung gefährlicher Systeme der künstlichen Intelligenz in der Zukunft zu verringern.
Analysten glauben, dass dieser Vorschlag eine wachsende Stimme innerhalb des US-Kongresses darstellt, dass modernste künstliche Intelligenz nicht nur auf der Selbstdisziplin der Unternehmen beruhen sollte, sondern einen staatlichen Überwachungsmechanismus ähnlich dem Arzneimittelregulierungssystem einrichten muss.
Allerdings besteht weiterhin große Unsicherheit darüber, ob der Gesetzentwurf in Zukunft reibungslos verabschiedet werden kann. Befürworter glauben, dass eine Regulierung das Risiko eines Kontrollverlusts verringern kann, während Gegner befürchten, dass zu strenge Beschränkungen die Innovationsfähigkeit der USA im globalen Wettbewerb um künstliche Intelligenz schwächen könnten.
Dennoch hat die Debatte darüber, „ob der Mensch Grenzen setzen sollte, bevor die Technologie außer Kontrolle gerät“, mit der kontinuierlichen Verbesserung der Fähigkeiten der künstlichen Intelligenz offiziell Einzug in die Gesetzgebung der USA gehalten.
Kommentare