Sam Altman, CEO von OpenAI, sagte, dass OpenAI mit dem US-amerikanischen AI Safety Institute (U.S. AI Safety Institute) zusammenarbeitet, einer Bundesbehörde, die Risiken für Plattformen für künstliche Intelligenz bewerten und angehen soll.
Altman gab die Ankündigung am Donnerstagabend in einem Beitrag auf X bekannt, Details waren jedoch spärlich. Aber es scheint – zusammen mit einer ähnlichen Vereinbarung mit der britischen KI-Sicherheitsbehörde im Juni – dazu gedacht zu sein, Behauptungen entgegenzuwirken, dass OpenAI die KI-Sicherheitsbemühungen auf der Suche nach leistungsfähigerer und leistungsfähigerer generativer KI-Technologie in den Hintergrund drängt.
Im Mai löste OpenAI praktisch eine Gruppe auf, die an der Entwicklung von Kontrollen arbeitete, um zu verhindern, dass „superintelligente“ Systeme der künstlichen Intelligenz außer Kontrolle geraten. Einige Berichte, einschließlich unseres, deuten darauf hin, dass OpenAI die Sicherheitsforschung des Teams zugunsten der Einführung neuer Produkte aufgegeben hat, was letztendlich zur Spaltung zwischen den beiden Co-Leitern des Teams, Jan Leike (jetzt Leiter der Sicherheitsforschung beim KI-Startup Anthropic) und OpenAI-Mitbegründer Ilya Sutskever (der sein eigenes Unternehmen für Sicherheits-KI, Safe Superintelligence Inc., gegründet hat), führte.
Als Reaktion auf eine wachsende Zahl von Kritikern sagte OpenAI, es werde restriktive Nichtverunglimpfungsklauseln, die implizit eine Berichterstattung verhindern, aufheben, einen Sicherheitsausschuss einrichten und 20 % seiner Rechenleistung für die Sicherheitsforschung verwenden. (Dem nicht mehr existierenden Sicherheitsteam wurden für seine Arbeit 20 % der Rechenleistung von OpenAI versprochen, aber dazu kam es nie.) Altman bekräftigte seine Zusage, 20 % der Rechenleistung für die Sicherheitsforschung aufzuwenden, und bekräftigte, dass OpenAI im Mai seine Nichtverunglimpfungsklausel für neue und bestehende Mitarbeiter abgeschafft habe.
Allerdings haben diese Schritte wenig dazu beigetragen, einige Beobachter zu besänftigen – insbesondere nachdem OpenAI seinen Sicherheitsausschuss mit allen Mitarbeitern des Unternehmens, einschließlich Altman, besetzte und kürzlich einen leitenden KI-Sicherheitsdirektor zu einer anderen Organisation versetzte.
Fünf Senatoren, darunter der hawaiianische Demokrat Brian Schatz, stellten kürzlich in einem Brief an Altman Fragen zu den Richtlinien von OpenAI. Jason Kwon, Chief Strategy Officer von OpenAI, antwortete heute auf den Brief und schrieb, dass OpenAI „sich dazu verpflichtet, in jeder Phase des Prozesses strenge Sicherheitsprotokolle durchzusetzen“.
Der Zeitpunkt der Vereinbarung von OpenAI mit dem National Institute for AI Security scheint etwas faul, da das Unternehmen Anfang dieser Woche den Future of Innovation Act unterstützte, einen im Senat eingebrachten Gesetzentwurf, der das Institute for Security als Exekutivagentur autorisieren würde, die für die Entwicklung von Standards und Richtlinien für Modelle der künstlichen Intelligenz verantwortlich ist. Zusammengenommen können diese Schritte als Versuch der Regulierungsübernahme angesehen werden – oder zumindest als Einfluss von OpenAI auf die Politikgestaltung im Bereich der künstlichen Intelligenz auf Bundesebene.
Altman ist Mitglied des Artificial Intelligence Security Council des Department of Homeland Security, der über die „sichere Entwicklung und den Einsatz künstlicher Intelligenz“ in kritischen Infrastrukturen der USA berät. In diesem Jahr sind die Ausgaben von OpenAI für Bundeslobbying deutlich gestiegen, mit Ausgaben von 800.000 US-Dollar in den ersten sechs Monaten des Jahres 2024 und 260.000 US-Dollar im gesamten Jahr 2023.
Das National Institute for Artificial Intelligence Safety, das im National Institute of Standards and Technology des Handelsministeriums angesiedelt ist, berät ein Konsortium von Unternehmen, darunter Anthropic und große Technologieunternehmen wie Google, Microsoft, Meta, Apple, Amazon und NVIDIA. Die Industriegruppe hat die Aufgabe, im Rahmen der im Oktober erlassenen Durchführungsverordnung von Präsident Joe Biden zu künstlicher Intelligenz zu arbeiten, einschließlich der Entwicklung von Leitlinien für KI-Red-Teams, Fähigkeitsbewertungen, Risikomanagement, Sicherheitsgarantien und Wasserzeichen für synthetische Inhalte.