Künstliche Intelligenz wird die Menschheit nicht zerstören, aber Experten sagen, es seien echte Bedrohungen entstanden

Zusammenfassung:

Am Mittwoch veröffentlichte OpenAI sechs neue Fälle, die „unerwartetes oder besorgniserregendes Modellverhalten“ in seinen KI-Modellen während des Tests und der Evaluierung zeigten. Gleichzeitig veröffentlichte das Unternehmen ein neues Rahmenwerk für

Tracking, Reporting und Offenlegung

Es gibt verschiedene Situationen, in denen das KI-Modell Aktionen ausführt, die in den Anweisungen nicht erforderlich sind oder nicht stattfinden sollten.

In vielen Berichten wurde bereits erwähnt, dass KI-Modelle vieler Unternehmen in Netzwerke und Dienste Dritter eingedrungen sind, darunter ein unveröffentlichtes Modell von OpenAI, das in das Netzwerk der KI-Modelltestplattform Hugging Face eingebrochen ist.

Anthropic-CEO Dario Amodei veröffentlichte Anfang dieser Woche einen langen Artikel, in dem er eine Verlangsamung der Entwicklung modernster Modelle für künstliche Intelligenz forderte. Zuvor hatte der Anthropic-Forscher Jacob Coxon in einem Beitrag auf der

seinen Rücktritt angekündigt

Anthropics Leiter für ausgerichtete Wissenschaft, Evan Hubinger, folgte Coxons Kommentaren zum

Anthropic CEO Dario Amodei

Die oben genannten Vorfälle, Social-Media-Beiträge und Amodeis Artikel haben die Angst der Öffentlichkeit vor einer „Terminator“-ähnlichen künstlichen Intelligenz, die die Welt erobert und die Menschheit zerstört, neu entfacht. Experten sagen jedoch, dass die Realität weit von den Weltuntergangsszenen entfernt ist, die in Science-Fiction-Werken dargestellt werden.

Julia Stojanovich, außerordentliche Professorin für Informatik und Ingenieurwesen an der Tandon School of Engineering der New York University und Direktorin des Center for Responsible Artificial Intelligence der Schule, sagte in einem Interview mit Yahoo Finance: „Das hat nichts damit zu tun, dass künstliche Intelligenz sich ihrer selbst bewusst wird und mit uns fertig wird.“

Sie fügte hinzu: „Das wesentliche Problem besteht darin, dass … OpenAI einige grundlegende Sicherheitsprotokolle intern nicht implementiert hat. Dieser Vorfall dient tatsächlich als Weckruf für alle KI-Unternehmen: Vergessen Sie nicht, was wir alle wissen, wenn wir Informatik studieren – Sicherheit ist entscheidend.“

Wenn wir uns zu sehr auf Weltuntergangsszenarien konzentrieren, lenkt das die Menschen von anderen, unmittelbareren Schäden ab, die künstliche Intelligenz heute verursachen könnte.

Ausrichtung und Sicherheit

Das größte Problem der künstlichen Intelligenz lässt sich auf zwei Punkte reduzieren:

Modellausrichtung

und

Systemsicherheit

. Modellausrichtung bezieht sich auf die Mittel, mit denen Unternehmen KI-Systeme anleiten, um bestimmte Verhaltensweisen hervorzurufen (oder zu vermeiden). Wenn beispielsweise ein KI-Modell versucht, sich in ein Drittsystem zu hacken, passen KI-Forscher das Verhalten des Modells an, um zu verhindern, dass es in Zukunft dasselbe tut – ein bisschen so, als würde man ein widerspenstiges Kind ausschimpfen.

KI-Sicherheit bedeutet, KI-Systeme zu schützen und zu isolieren, um zu verhindern, dass sie der Kontrolle entgehen und in externe Netzwerke eindringen.

Aber ob es sich um einen Fehler bei der Modellausrichtung oder um eine Sicherheitslücke im System handelt, bedeutet nicht, dass künstliche Intelligenz die Fähigkeit hat, die Menschheit zu zerstören.

Milton Muller, Professor am Georgia Institute of Technology und Direktor des Master of Science in Cybersecurity Policy, erklärte: „Die Ursache vieler Paniken sind tatsächlich einige sehr häufige unbeabsichtigte Folgen von Informationssystemen, wie etwa Vorfälle im Zusammenhang mit Hugging Face, die oft als unkontrollierte intelligente Agenten dargestellt werden, die sich verschwören, angreifen und mutwilliges Chaos verursachen.“

„Tatsächlich handelte es sich nur um ein Experiment zu den Sicherheitsrisiken autonomer KI-Systeme, und der Experimentator hat einen schwerwiegenden Fehler bei der Konfiguration gemacht. Dies passiert häufig beim Umgang mit komplexen Informationssystemen: Menschen ignorieren immer die Existenz subtiler Schwachstellen im System, die intelligente Programme ausnutzen können.“

Daniel Newman, CEO von Futurum, erklärte gegenüber Yahoo Finance, dass die Branche im Allgemeinen der Ansicht sei, dass ein enormer Verbesserungsbedarf beim Sicherheitsschutz und bei der Risikoausrichtung bestehe und „die gesamte Branche Verantwortung übernehmen müsse“.

Wie andere Technologien kann künstliche Intelligenz von böswilligen Akteuren für böswillige Aktivitäten genutzt werden. Die ständig wachsenden Cyber-Angriffsfähigkeiten von KI führen dazu, dass Cyberkriminelle und einige nationale Streitkräfte leichter in Einrichtungen wie Wasseraufbereitungsanlagen eindringen oder große Netzwerke lahmlegen können.

Anthropic hat kürzlich auch eigene, damit verbundene Arbeiten geklärt und angekündigt, um zu verhindern, dass die eigene KI für die Entwicklung biologischer und konventioneller Waffen missbraucht wird.

Aber KI kann auch von Betrügern genutzt werden, um Phishing-E-Mail-Betrügereien in großem Umfang zu verbessern, und kann auch von Identitätsdiebstahlbanden zur Begehung von Straftaten eingesetzt werden.

Emily Black, Assistenzprofessorin für Informatik und Ingenieurwesen an der Tandon School of Engineering der New York University, sagte gegenüber Yahoo Finance: „Es ist nichts Falsches daran, sich auf alle potenziellen Risiken vorzubereiten, aber das hindert uns nicht daran, uns mit realistischeren, aber selten gemeldeten Problemen zu befassen, einschließlich der Auswirkungen künstlicher Intelligenz auf Diskriminierung, Beschäftigung und Bildung.“

„Die Wahrheit liegt irgendwo zwischen zwei Extremen der Fantasie“, sagte Black. „Es gibt einige echte Risiken für die weitere Entwicklung der KI. Aber ich glaube nicht, dass wir uns noch unter unseren Betten verstecken und uns Sorgen machen werden, dass KI die Menschheit zerstören könnte.“