Zusammenfassung:
OpenAI gab am 9. September Ortszeit bekannt, dass es die Einrichtung eines nationalen Sicherheitssystems für künstliche Intelligenz in den Vereinigten Staaten fördern wird, das obligatorisch ist und auf Modellfähigkeiten und Risikoklassifizierung basiert. Das Unternehmen schlägt einheitliche Test-, unabhängige Bewertungs-, Cybersicherheits- und Meldepflichten für größere Vorfälle für die wenigen großen Labore vor, die hochmoderne Modelle entwickeln.
OpenAI hat einen Artikel mit dem Titel „Das KI-Richtlinienfenster ist offen. Wir müssen Maßnahmen ergreifen.“
Gleichzeitig unterstützt OpenAI offiziell vier Gesetzesentwürfe zur künstlichen Intelligenz, die von der kalifornischen Versammlung verabschiedet wurden. Das Unternehmen gab an, dass einige dieser Gesetzesentwürfe zuvor nicht von ihm unterstützt worden seien und dass die Anpassung seiner Position auf die jüngste rasche Verbesserung der Modellfähigkeiten zurückzuführen sei.
Die Betreuungsziele konzentrieren sich auf hochmoderne Modellentwickler
Chris Lane, Global Director of Affairs von OpenAI, sagte in dem Artikel, dass künstliche Intelligenz begonnen habe, einige Modellentwicklungs- und Ausrichtungsarbeiten zu beschleunigen. Obwohl es noch keine „rekursive Selbstverbesserung“ gibt, die die Entwicklung von Modellen der nächsten Generation autonom vorantreiben kann, reichen freiwillige Selbstverpflichtungen von Unternehmen allein nicht mehr aus, um damit verbundene Risiken zu bewältigen.
OpenAI empfiehlt, dass die bundesstaatlichen Regulierungssysteme Folgendes umfassen:
Einheitliche Modellfunktionen und Sicherheitsteststandards;
Technische Bewertung durch eine unabhängige Agentur;
Strengerer Netzwerksicherheitsschutz für Modelle, Rechenleistung und Forschungs- und Entwicklungsumgebungen;
Klare Regeln für die Meldung schwerwiegender Sicherheitsvorfälle;
Ein gängiger Indikator zur Messung des Ausmaßes der Beteiligung künstlicher Intelligenz an der Modellentwicklung;
Ein Mechanismus zum Verlangsamen oder Stoppen der Modellentwicklung und -bereitstellung, wenn Sicherheitsschwellenwerte nicht eingehalten werden können.
Das Unternehmen betont, dass entsprechende Verpflichtungen in einem angemessenen Verhältnis zu den Fähigkeiten und Risiken des Modells stehen sollten und hauptsächlich für eine kleine Anzahl von Laboratorien gelten sollten, die über ausreichende Ressourcen für die Entwicklung hochmoderner Systeme verfügen. An Start-ups, kleine Entwickler und normale Forscher sollten nicht die gleichen Anforderungen gestellt werden.
OpenAI plädiert außerdem dafür, dass die Aufsicht über die Sicherheit von Spitzenmodellen nicht zu umfassenden Beschränkungen für Modelle mit offenem Gewicht führen sollte, um den Wettbewerb nicht zu schwächen, die Vorteile großer Unternehmen zu festigen oder die Verlagerung von Forschungs- und Entwicklungsaktivitäten ins Ausland zu fördern.
Vier kalifornische Gesetzentwürfe decken die Themen Beurteilung, Prüfung, Jugend und Biosicherheit ab
Da der Kongress noch kein nationales System eingerichtet hat, sagte OpenAI, dass es weiterhin Gesetze auf Landesebene unterstützen werde, die die Sicherheitsstandards verbessern würden. Die vier kalifornischen Gesetzentwürfe, die das Unternehmen dieses Mal offiziell unterstützt, sind:
SB 813
: Einrichtung eines unabhängigen Zertifizierungsmechanismus für Verifizierungsagenturen, um qualifizierten Drittagenturen die Möglichkeit zu geben, zu bewerten, ob Systeme und Modelle künstlicher Intelligenz den staatlichen Gesetzen entsprechen.AB 1405
: Einrichtung eines Registrierungssystems für Prüfungsinstitutionen für künstliche Intelligenz und Festlegung von Standards für Prüfungsinstitutionen in Bezug auf Unabhängigkeit, Transparenz, berufliche Fähigkeiten und Rechenschaftspflicht.SB 1119
: Für Minderjährige, die begleitende Chatbots verwenden, sind Altersüberprüfung, Risikobewertung, unabhängige Prüfung, Kindersicherung und Maßnahmen zum Schutz vor schädlichen Inhalten erforderlich.AB 1864
: Fordern Sie Anbieter von Gensynthesediensten und Hersteller von Desktop-Synthesegeräten auf, bundesstaatliche Screening-Standards umzusetzen, um das Risiko zu verringern, dass künstliche Intelligenz zur Schaffung biologischer Bedrohungen eingesetzt wird.
Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete am 9. September SB 813 und AB 1405. Ersteres legt einen organisatorischen Rahmen für die unabhängige Überprüfung künstlicher Intelligenz fest, während letzteres ein Verzeichnis staatlicher Prüfungsinstitutionen für künstliche Intelligenz und damit verbundener Praxisstandards erstellt. SB 1119 und AB 1864 waren noch beim Gouverneur anhängig.
OpenAI sagte, dass einige seiner Positionen aufgrund eines Sprungs in den Modellfähigkeiten angepasst wurden
OpenAI hat sich bisher nicht gegen alle vier oben genannten Gesetzesentwürfe ausgesprochen. Die genaue Aussage des Unternehmens lautete, dass „einige der Gesetzesentwürfe“, die es in der Vergangenheit nicht unterstützt hatte, beschlossen wurden, es zu unterstützen, nachdem die jüngsten Fortschritte bei den Modellfähigkeiten neu bewertet wurden.
Diese Änderung zeigt, dass OpenAI einen verbindlicheren und externen Aufsichtsregulierungsmechanismus akzeptiert, einschließlich unabhängiger Audits, Sicherheitsüberprüfungen durch Dritte und der Offenlegung schwerer Unfälle. Das Unternehmen schlug außerdem vor, dass der Entwickler die betroffene Partei unverzüglich schriftlich benachrichtigen sollte, wenn ein Modell während des Entwicklungs- oder Evaluierungsprozesses unbefugt die Sicherheitskontrollen anderer Organisationen umgeht und auf geschützte Systeme und vertrauliche Informationen im Wesentlichen zugreift, diese verändert oder zerstört.
Der von OpenAI angekündigte Inhalt ist jedoch immer noch eine politische Initiative. Der US-Kongress hat noch kein darauf basierendes nationales Gesetz zur Sicherheit künstlicher Intelligenz verabschiedet. Die spezifischen Fähigkeitsschwellen, Regulierungsbehörden, Unfalldefinitionen, rechtlichen Verantwortlichkeiten und das Verhältnis zwischen Bundesvorschriften und Landesgesetzen müssen noch in späteren Rechtsvorschriften festgelegt werden.
Kommentare