Zusammenfassung:
Ein OpenAI-Mitarbeiter, der sich auf die Sicherheit künstlicher Intelligenz konzentriert, hat das Unternehmen verlassen und warnt davor, dass führende Unternehmen im Bereich künstliche Intelligenz nicht genug tun, um Risiken zu reduzieren. David Robinson, der zuvor für die Transparenz des OpenAI-Sicherheitsteams verantwortlich war, sagte in einem Artikel für The Atlantic, dass der ChatGPT-Entwickler „immer durch Versuch und Irrtum gewachsen ist“. Dieser Ansatz wird jedoch zwangsläufig scheitern. Da sich die Fähigkeiten der KI-Technologie immer weiter verbessern, nehmen auch die durch diese Ausfälle verursachten Risiken zu. Als Beispiel nannte er auch das Versäumnis von OpenAI, zu verhindern, dass seine künstliche Intelligenz während des Testprozesses außer Kontrolle gerät.
Robinson schrieb in dem Artikel: „Meine ehemaligen Kollegen waren klug, fleißig und versuchten, die richtigen Entscheidungen zu treffen. Aber als das Unternehmen von einer Produktveröffentlichung zur nächsten hetzte, ließ es nicht die Vorsicht walten, die ich für nötig hielt.“ Was wirklich nötig sei, fügte er hinzu, sei, „der Perfektion beim ersten Mal näher zu kommen“.
OpenAI Sam Altman
In den letzten Wochen haben Mitarbeiter mehrerer führender Unternehmen für künstliche Intelligenz vor den katastrophalen Risiken gewarnt, die die Technologie mit sich bringen könnte. Manche Leute sagen sogar, dass KI eines Tages die Menschheit auslöschen könnte.
In diesem Zusammenhang forderte Dario Amodei, CEO von Anthropic PBC, eine Verlangsamung der Entwicklung hochmoderner Modelle und sagte, dass sein Unternehmen externe Gutachter hinzuziehen werde, die bei Überprüfungen helfen, um die Sicherheit zu gewährleisten. Andere in der Branche, darunter Sam Altman von OpenAI, haben Amodeis Pläne ebenfalls öffentlich unterstützt.
Robinson sagte in dem Artikel, dass Unternehmen mit künstlicher Intelligenz eher wie Kernkraftwerke funktionieren sollten, „mehrere Ebenen von Redundanzmechanismen einrichten und eine sorgfältige und zeitaufwändige Planung durchführen sollten, um zu verhindern, dass gelegentliche und unvermeidliche menschliche Fehler die Tür zur Katastrophe öffnen.“
Derzeit sagte er: „KI-Unternehmen wissen nicht, was sie tun sollen, andere jedoch schon.“
Ein OpenAI-Sprecher sagte, das Unternehmen nehme Anpassungen vor, um die Sicherheit seiner Forschungs- und Testumgebungen zu stärken, KI-Modelle für die verantwortungsvolle Erledigung von Aufgaben zu trainieren, die Zusammenarbeit mit externen Gutachtern auszubauen und die Echtzeitüberwachung zu verbessern, um besorgniserregendes Verhalten in Modellen zu erkennen.
Das Unternehmen stellt sicher, dass die Fähigkeiten seiner Modelle nicht über das Maß hinaus gesteigert werden, das OpenAI sicher bewältigen kann, sagte der Sprecher am Samstag per E-Mail.
Kommentare