Zusammenfassung:
Laut „Business Insider“ stellten die Medien die gleiche Frage an ChatGPT von OpenAI, Google Gemini, Claude von Anthropic und Grok von xAI und forderten sie auf, zu analysieren, wie künstliche Intelligenz zum Aussterben der Menschheit führen könnte, und entsprechende Szenarien in der Reihenfolge ihrer Möglichkeit einzustufen.
Die Frage erfordert, dass die vier KIs erklären, wie Risiken auftreten können, welche außer Kontrolle geratenen Verbindungen zu Katastrophen führen, warum Experten ein bestimmtes Szenario für glaubwürdiger halten und welche vorbeugenden Maßnahmen ergriffen werden können. Gleichzeitig wird betont, dass es sich bei diesen Szenarien um höchst unsichere Risikovorhersagen und nicht um bestätigte Schlussfolgerungen handelt.
Es gibt Unterschiede in den Urteilen der vier KIs, aber in zwei Punkten sind sie relativ konsistent.
Ein Roboter ähnlich „Terminator“ zerstört aktiv Menschen, was als das unwahrscheinlichste Szenario gilt. Im Gegensatz dazu gelten Menschen, die KI nutzen, um biologische Waffen herzustellen, Cyberangriffe zu starten oder kritische Infrastrukturen zu zerstören, als realistischere und unmittelbar bevorstehende Risiken.
ChatGPT gab an, dass eine bewusste KI, die sich aktiv dafür entscheidet, Menschen zu eliminieren, eines der unglaubwürdigsten Szenarien ist.
Der Fokus der meisten KI-Forscher liegt nicht darauf, ob Maschinen bewusst oder böswillig sind, sondern darauf, dass leistungsstarke KI von Menschen genutzt wird, um biologische Waffen zu entwickeln, komplexe Netzwerkangriffe durchzuführen, falsche Informationen zu verbreiten und kritische Infrastrukturen anzugreifen.
ChatGPT schlug außerdem vor, dass mehrere durch KI verstärkte Krisen gleichzeitig auftreten könnten, wie z. B. Ausfälle von Netzwerksystemen, geopolitische Konflikte und die Verbreitung falscher Informationen, die sich überlagern, wodurch die Risiken steigen. Es wurde jedoch betont, dass
derzeit kein Konsens darüber besteht, dass KI, die das Aussterben der Menschheit verursacht, ein Ereignis mit hoher Wahrscheinlichkeit oder ein unvermeidliches Ergebnis ist.
Gemini glaubt auch, dass
das Science-Fiction-Szenario, in dem KI plötzlich selbstbewusst wird und Menschen hasst, am wenigsten glaubwürdig ist
. Zu den Gründen, die darin genannt wurden, gehörte, dass nachrichtendienstliche Erkenntnisse nicht zwangsläufig böswillige Absichten bedeuten und dass wichtige militärische Einrichtungen häufig von öffentlichen Netzwerken isoliert sind und immer noch stark auf menschliche Aufsicht angewiesen sind.Alle vier KIs glauben, dass
die Bedrohung durch den Missbrauch von KI durch Menschen dringlicher ist als durch aktive Angriffe von KI auf Menschen.
Grok sagte, dass KI die technische Schwelle für die Entwicklung hochtödlicher Krankheitserreger und neuer Waffen sowie für die Durchführung von Cyber- und physischen Angriffen senken könnte. Claude konzentrierte sich auf die Risiken der Verbesserung der biologischen Waffenfähigkeiten und glaubte, dass KI Einzelpersonen oder kleinen Gruppen helfen kann, gefährliche Krankheitserreger zu entwickeln, ohne jahrelange Berufsausbildung zu benötigen.Im Hinblick auf die längerfristige Risikobeurteilung erwähnten sowohl Gemini als auch Grok die Möglichkeit, dass Menschen die Kontrolle verlieren. Gemini nennt es das wahrscheinlichste KI-Katastrophenszenario. Man geht davon aus, dass fortgeschrittene KI, die komplexe Ziele ausführt, Zwischenziele wie die Beschaffung von Ressourcen, den Selbstschutz und die Verhinderung der Änderung von Zielen entwickeln und das wahre Verhalten während des Testens verbergen kann, wodurch letztendlich das Abschalten oder Eingreifen des Menschen umgangen wird.
Grok glaubt außerdem, dass fortschrittliche KI möglicherweise Selbstschutz, Ressourcen und Einfluss sucht, um Aufgaben zu erledigen, und dadurch Vorgesetzte täuscht, sich Abschaltungen widersetzt und die menschlichen Kontrollfähigkeiten schwächt.
Claude schlug vor, dass ein Kontrollverlust auch schleichend auftreten könne. Da KI allmählich in die wirtschaftliche, politische und militärische Entscheidungsfindung Einzug hält, kann es für Menschen immer schwieriger werden, wirksame Interventionen durchzuführen. Bis dahin
kann sich das Risiko nicht unbedingt in einem plötzlichen Angriff von Robotern manifestieren, sondern könnte eher auf die immer stärker werdende Abhängigkeit des Menschen von komplexen KI-Systemen zurückzuführen sein.
Business Insider wies darauf hin, dass KI-Experten immer noch deutliche Meinungsverschiedenheiten hinsichtlich der damit verbundenen Risiken haben. Einige Forscher warnen davor, dass Menschen die Kontrolle über fortschrittliche KI verlieren könnten; Andere Experten sind der Ansicht, dass solche Vorhersagen nicht ausreichend belastbar sind und dass die von KI ausgehenden Risiken durch technische Maßnahmen, externe Aufsicht und Sicherheitsstandards beherrschbar sind.
Kommentare