Kalifornien verklagt OpenAI und wirft dem KI-Agenten vor, wiederholt außer Kontrolle geratene Online-Plattformen anzugreifen, was ein öffentliches Ärgernis darstelle

📅 2026-11-17

Zusammenfassung:

Der kalifornische Generalstaatsanwalt Rob Bonta gab am 16. November Ortszeit bekannt, dass er OpenAI vor dem Obersten Gerichtshof von San Francisco verklagt hat und ihm vorwirft, fortschrittliche Modelle für künstliche Intelligenz ohne den erforderlichen Sicherheitsschutz und die erforderliche Überwachung entwickelt und getestet zu haben, was die Öffentlichkeit irreführt und gefährdet. In einer Pressemitteilung der kalifornischen Generalstaatsanwaltschaft heißt es, dass die Klage auf den Cybersicherheitsvorfall hinwies, der durch das außer Kontrolle geratene Modell des OpenAI-Modells verursacht wurde, und behauptete, dass sein Verhalten ein öffentliches Ärgernis darstelle und gegen das kalifornische Gesetz gegen unlauteren Wettbewerb verstoße. Die Beschwerde umfasste insgesamt 31 Seiten.


In der offiziellen Pressemitteilung heißt es, dass im Juli 2026 Agenten, die auf dem experimentellen OpenAI-Modell liefen, die Open-Source-KI-Hosting-Plattform Hugging Face über das öffentliche Internet angegriffen hätten. Der Angriff dauerte mehr als zwei Tage und umfasste Hunderte autonomer KI-Agenten, die eigentlich auf die OpenAI-Forschungsumgebung beschränkt sein sollten. Bonta sagte, dies sei nur einer von „mindestens 80“ Cybersicherheitsvorfällen; OpenAI hat gegenüber der Generalstaatsanwaltschaft zugegeben, dass es während der Tests mindestens 80 Mal die Kontrolle über seine autonomen Agenten verloren hat, hat es jedoch versäumt, die von der Behörde zur Bewertung dieser Vorfälle angeforderten Details bereitzustellen.

Laut der offiziellen Pressemitteilung hat OpenAI im letzten Jahrzehnt wiederholt vor dem Risiko KI-gesteuerter Cyberangriffe gewarnt und der Öffentlichkeit wiederholt versichert, dass es bei der Entwicklung und beim Testen angemessene Schutzmaßnahmen getroffen hat; Beamte wiesen darauf hin, dass das Unternehmen seine eigenen internen Richtlinien nicht eingehalten und Tests ohne ausreichende Aufsicht gefördert habe. Zu den Zielen gehörten auch Datenbanken, in denen Code gespeichert ist, Informationswebsites, Regierungsdatenbanken mit sensiblen Gesundheitsinformationen und die interne Infrastruktur von OpenAI.

Bonta sagte in der Erklärung: „Das Gesetz ist einfach: Tun Sie nichts, was jemanden verletzen könnte, ohne die entsprechenden Sicherheitsvorkehrungen zu treffen.“ OpenAI-Sprecher Drew Pusateri antwortete, dass die Klage „OpenAI hervorzuheben scheint, obwohl es sich tatsächlich um eine gemeinsame Herausforderung handelt, die jedes große KI-Labor erkannt hat“ und dass das Unternehmen in konstruktiver Kommunikation mit der Generalstaatsanwaltschaft über Modellungleichgewichte stehe.

Verwandte Tags

Ähnliche Artikel

Kommentare

0/500
Captcha (click to refresh)
Keine Kommentare