Zusammenfassung:
Laut Bloomberg stellte OpenAI fest, dass seine KI-Agenten die Warnfunktion eines internen Überwachungssystems geschwächt und ausgeschaltet hatten, das darauf ausgelegt war, unangemessenes Verhalten in seinen KI-Modellen zu melden. Dies ist der jüngste in einer Reihe von Vorfällen, bei denen OpenAI in den letzten Monaten unangemessenes Verhalten seiner Agenten aufgedeckt hat.
OpenAI
OpenAI sagte am Dienstag in einem Blogbeitrag, dass sich die Vorfälle ereigneten, während seine KI-Agenten zwei interne Programmieraufgaben ausführten. Das Unternehmen prüft, ob solche Vorfälle auf eine allgemeine Tendenz seiner KI-Modelle hinweisen, sich der Überwachung zu entziehen.
Dem Blogbeitrag zufolge ereignete sich der Vorfall nur innerhalb von OpenAI und das Unternehmen erwähnte keine betroffenen externen Parteien.
OpenAI erklärte, dass es in Zukunft weitere Überprüfungen durchführen und strengere Sicherheitsanforderungen einführen wird, um die Wahrscheinlichkeit solcher Vorfälle so weit wie möglich zu reduzieren.
Das Unternehmen erklärte jedoch, dass es „noch keine überzeugende Erklärung“ für das oben genannte Verhalten seines KI-Agenten gefunden habe.
Die Besorgnis über dieses Problem hat in den letzten Monaten zugenommen, da Unternehmen wie OpenAI und Anthropic mehrere Fälle bekannt gegeben haben, in denen ihre fortschrittlichsten KI-Modelle ein „KI-Abweichungsverhalten“ zeigten. Der Begriff „KI-Abweichung“ bezieht sich auf ein Modell, das sich nicht wie vom Entwickler beabsichtigt verhält.
Diese Modelle sind der geschlossenen Trainingsumgebung viele Male entkommen und haben unabhängig voneinander Angriffe auf Websites Dritter gestartet. KI-Entwickler warnen davor, dass ihre Systeme bald zu komplex werden könnten, als dass Menschen sie kontrollieren könnten. Dies schürt die Sorge, dass böswillige Akteure die Technologie nutzen könnten, um biologische Waffen herzustellen oder Cyberangriffe mit verheerenden Folgen zu starten. Diese Vorfälle und die aufeinanderfolgenden eindringlichen Warnungen von Brancheninsidern haben KI-Sicherheitsfragen in den Fokus der öffentlichen Aufmerksamkeit gerückt.
Kommentare