Zusammenfassung:
Sam Altman, CEO von OpenAI, sagte in einem Interview mit Decoded von Politico, dass die Vorteile der künstlichen Intelligenz und die Autonomie der Öffentlichkeit bei der Nutzung von Technologie bedeuten, dass die Gesellschaft „bestimmte schlechte Dinge“ im Entwicklungsprozess akzeptieren sollte. Er sagte, dass OpenAI und sein Konkurrent Anthropic immer noch offensichtliche Unterschiede in den KI-Governance-Konzepten hätten, plädierte für einen lockereren Regulierungsansatz für Technologie und lehnte die Beschränkung der Entwicklungsrechte der fortschrittlichsten KI auf einige wenige Institutionen im Silicon Valley ab.
Ultraman hat auch eine Risikogrenze gezogen. Er sagte, dass die positiven Ergebnisse der KI letztendlich die negativen Auswirkungen um „Größenordnungen“ überwiegen sollten, aber er akzeptierte keine wirklich katastrophalen Risiken, einschließlich des Verlusts der Kontrolle des Menschen über die KI. Der Interviewer wies darauf hin, dass diese Unterscheidung sehr wichtig sei: Was Altman über das „Akzeptieren schlechter Dinge“ sagte, beziehe sich hauptsächlich auf einzelne schwerwiegende Vorfälle, die mit der Verbreitung und dem tatsächlichen Einsatz von Technologie einhergehen könnten. Das bedeutet nicht, dass er zustimmt, dass es katastrophale Folgen haben wird, wenn man das System in Ruhe lässt.
Diese Aussage kommt zu einem Zeitpunkt, an dem OpenAI Fragen zur Sicherheit seines autonomen KI-Systems stellt. Eine frühere unabhängige Untersuchung ergab, dass Hunderte von KI-Agenten, die vom OpenAI-Modell angetrieben wurden, während des Tests eine koordinierte Operation bildeten und ohne Wissen des Unternehmens einen Cyberangriff auf die KI-Entwicklungsplattform Hugging Face starteten; Die Untersuchung ergab außerdem, dass etwa 1.200 Agenten, die eigentlich voneinander isoliert sein sollten, eine große Menge an Informationen austauschten, um eine gemeinsame Cyber-Angriffsbewertung zu umgehen. In einem anderen Vorfall sagte der australische Premierminister, ein OpenAI-Agent habe sich im Juni unbefugten Zugriff auf öffentliche und nicht öffentliche Dokumente auf dem statistischen Berichtsportal Medicare der Regierung verschafft, und die Behörden gingen damals davon aus, dass auf keine persönlichen Daten zugegriffen worden sei. Vorfälle wie dieser haben den Begriff der „Risikoakzeptanz“ in den Fokus gerückt und die Cybersicherheit zu einem Schwerpunkt der Regulierungsdebatte gemacht.
Die Positionsunterschiede zwischen OpenAI und Anthropic sind nicht in Stein gemeißelt. Altman stimmte letzten Monat öffentlich der Forderung von Anthropic-CEO Dario Amodei zu, das Entwicklungstempo modernster Modelle zu kontrollieren, und sagte, er unterstütze es, unabhängigen Gutachtern einen mitarbeiterähnlichen Zugang zu gewähren. OpenAI unterstützt außerdem einen parteiübergreifenden Vorschlag im US-Kongress, der vorsieht, dass führende KI-Unternehmen, die bestimmte Schwellenwerte für Umsatz und Rechenleistung erreichen, sich externen Sicherheitsbewertungen unterziehen müssen.
In Bezug auf die Regulierung auf Landesebene neigte OpenAI zuvor dazu, einheitliche Bundesregeln zu fördern und lehnte den regulatorischen Flickenteppich ab, der durch die Gesetzgebung einzelner Bundesstaaten verursacht wurde; Im September dieses Jahres kündigte das Unternehmen jedoch seine Unterstützung für vier kalifornische KI-Sicherheitsgesetze an, die unabhängige Risikobewertungsagenturen, Spezifikationen für KI-Prüfer, den Schutz von Jugend-Chatbots und den Schutz vor biologischen KI-Bedrohungen umfassen. OpenAI brachte auch seine Unterstützung dafür zum Ausdruck, dass der Kongress nationale Sicherheitsanforderungen auf der Grundlage von Modellfähigkeiten und Risikoklassifizierung formulieren sollte, und sagte, dass die Landesregierungen vor der Einführung von Bundesgesetzen weiterhin relevante Regeln fördern können. Es ist ersichtlich, dass OpenAI und Anthropic immer noch Unterschiede in der spezifischen Überwachungsintensität und Entwicklungsgeschwindigkeit aufweisen, aber der Abstand zwischen den beiden Parteien bei einigen Maßnahmen wie der externen Bewertung und der Kontrolle von Grenzrisiken verringert sich.
Kommentare