OpenAI setzt einen KI-„Kontrollraum“ ein: Blockierung der Modellausgabe für bis zu 35 Sekunden

Zusammenfassung:

OpenAI gab kürzlich bekannt, dass es in seiner internen Forschungsinfrastruktur ein zentrales Kontrollsystem namens „Control Room“ implementiert hat. Wenn die Modellaufgabe Sicherheits- oder Netzwerksicherheitsrisiken verursacht,

kann das System die weitere Ausgabe des Modells für bis zu 35 Sekunden nach Erhalt des Stoppbefehls blockieren

Laut OpenAI kann Control Room Forschungsaufgaben wie Reinforcement-Learning-Training, Modellbewertung, Agentenstichprobe und Datenverarbeitung einheitlich verfolgen und ist mit dem Modellverhaltensüberwachungssystem verknüpft.

Das Überwachungsmodell überprüft die Argumentation und den Betriebsprozess des trainierten Modells. Sobald potenzielle Probleme entdeckt werden, kann je nach Risikograd ein Alarm ausgegeben oder die Aufgabe direkt ausgesetzt werden

Während des spezifischen Ausführungsprozesses sendet das Überwachungssystem die Aufgaben-ID, die gestoppt werden muss, an den Kontrollraum. Wenn die entsprechende Aufgabe das nächste Mal eine Modellinferenz beantragt, überprüft die Inferenz-Engine ihre Ausführungsberechtigung. Wenn die Aufgabe als beendet markiert wurde, lehnt das System die Anfrage ab, um zu verhindern, dass das Modell weiterhin Inhalte generiert.

OpenAI gab an, dass

derzeit bis zu 35 Sekunden vergehen, bis der Kontrollraum den Stoppbefehl erhält, bis die Aufgabe überhaupt nicht mehr ausgeführt werden kann.

Das System verwendet außerdem einen „Fail-Close“-Mechanismus. Wenn der Kontrollraum ausfällt, heruntergefahren oder manipuliert wird, werden alle zugehörigen Rückschlussanfragen standardmäßig abgelehnt, bis der Dienst wiederhergestellt ist. Dieser Mechanismus deckt nun alle hochmodernen Modellforschungsaufgaben von OpenAI ab und wird auf andere Forschungsaufgaben ausgeweitet. OpenAI sagte, dass seine externen Modelldienste eine stärker zentralisierte technische Architektur übernehmen und derzeit über entsprechende Offline-Bereitstellungs- und Notfallreaktionsfunktionen verfügen.