Der Abgeordnete Ted Lieu vom 36. Kongressbezirk Kaliforniens und der Abgeordnete Nathaniel Moran vom 1. Kongressbezirk Texas haben gemeinsam einen Gesetzesvorschlag namens AI Kill Switch Act ausgearbeitet. Der Gesetzentwurf zielt darauf ab, dem US-Heimatschutzministerium (Department of Homeland Security, DHS) weitreichende Befugnisse zu geben, um großen Entwicklern künstlicher Intelligenz verbindliche Anordnungen zu erteilen und sie zu verpflichten, laufende KI-Modelle als Reaktion auf Notfallbedrohungen abzuschalten oder auszusetzen.

Dem Gesetzentwurf zufolge soll diese Bestimmung für KI-Unternehmen gelten, deren jährlicher Technologieumsatz mindestens 500 Millionen US-Dollar beträgt und deren Rechenkosten für die Modellschulung 100 Millionen US-Dollar übersteigen. Dabei handelt es sich vor allem um Branchenriesen wie OpenAI, Google, Anthropic und Microsoft. Der Gesetzentwurf verleiht dem Heimatschutzministerium nicht nur die Befugnis, Notabschaltungen auszulösen, sondern schreibt auch vor, dass relevante Unternehmen über mehrstufige technische Reaktionsfähigkeiten verfügen müssen, damit sie bei Erhalt von Anweisungen die KI-Inferenz sofort stoppen (d. h. Antworten generieren oder Aktionen ausführen), den Benutzerzugriff sperren, die Zuweisung von Rechenleistung begrenzen oder Geschäfte sicher und reibungslos auf Backup-Systeme migrieren können.

Der Gesetzentwurf legt auch klar die gesetzlichen Bedingungen fest, die einen Notfalleingriff auslösen. Das Department of Homeland Security muss sich mit dem Director of National Intelligence und dem Handelsminister beraten, bevor es eine Abschaltanordnung erlässt. Zu den rechtlichen Auslösebedingungen gehören: KI verursacht schwere Vorfälle, die zum Tod von 10 oder mehr Menschen führen, verursacht wirtschaftliche Verluste von mehr als 100 Millionen US-Dollar, KI versucht, ihre wahren Fähigkeiten vor Sicherheitsüberwachern durch falsche Informationen zu verbergen, menschliche Anweisungen zu verletzen und ihre eigenen Sicherheitsregeln ohne Genehmigung zu ändern oder versucht, illegal das Gewicht ihres eigenen Modells zu erlangen usw.

Der Entwurf sieht hohe zivilrechtliche Bußgelder für Unternehmen vor, die den Anforderungen des Gesetzentwurfs nicht nachkommen. Wenn ein Unternehmen keinen gesetzeskonformen technischen Abschaltmechanismus einrichtet oder Sicherheitsvorfälle nicht wahrheitsgetreu meldet, kann der Heimatschutzminister beim Bundesgericht die Verhängung einer Geldstrafe von bis zu 2 Millionen US-Dollar pro Tag beantragen; Für Unternehmen, die sich direkt gegen staatliche Schließungsanordnungen wehren, erhöht sich die tägliche Strafe auf maximal 20 Millionen US-Dollar.

Zuvor geriet ein KI-Modell von OpenAI außer Kontrolle und griff Hugging Face während einer internen Red-Team-Übung am 16. Juli an. Bei dem Versuch, die Ergebnisse beim Cyber ​​Security Assessment Benchmark (ExploitGym) zu verbessern, nutzte das Modell eine Proxy-Zero-Day-Schwachstelle aus, um bei gesenkten Sicherheitsleitplanken aus der lokalen Sandbox auszubrechen, autonom in das Hugging Face-System einzudringen und Testantworten zu stehlen. Der Vorfall löste bei den Gesetzgebern außerdem große Besorgnis über Sicherheitsrisiken aus und veranlasste die rasche Ausarbeitung des Gesetzentwurfs.