Zehn Nobelpreisträger und zwei ehemalige Staatsoberhäupter forderten kürzlich alle Länder gemeinsam dazu auf, bis Ende 2026 „rote Linien“ für die Entwicklung künstlicher Intelligenz (KI) festzulegen, um Risikomanagement und -kontrolle auf internationaler Ebene zu fördern. Die Erklärung wurde gemeinsam von mehr als 200 Unterzeichnern abgegeben, darunter leitende Mitarbeiter von OpenAI, Google DeepMind und Anthropic.
In der Erklärung wurde betont, dass Probleme wie technische Pandemien und Arbeitslosigkeitsrisiken, die durch KI verursacht werden können, weltweit große Aufmerksamkeit erregt haben, und viele Experten haben davor gewarnt, dass es in den nächsten Jahren schwierig sein könnte, eine wirksame menschliche Kontrolle über KI-Systeme umzusetzen.
Dieser Aufruf fällt mit der Einberufung der Generalversammlung der Vereinten Nationen zusammen und ist von großer Bedeutung für die Förderung eines globalen Konsenses. Aufgrund des Widerstands der USA wird jedoch erwartet, dass es kurzfristig schwierig sein wird, konkrete Governance-Maßnahmen voranzutreiben. Zu den Unterzeichnern gehören Hinton, Bengio, der „Ökonom“ Stiglitz, ein bekannter Wissenschaftler auf dem Gebiet der KI, der ehemalige kolumbianische Präsident Santos, die ehemalige irische Präsidentin Mary Robinson, die ehemalige italienische Premierministerin Letta sowie viele ehemalige Minister, Wissenschaftler und Diplomaten der Regierung. Erwähnenswert ist, dass auch der Schauspieler Stephen Fry auf der Liste steht. An der Unterzeichnung nahmen auch OpenAI-Mitbegründer Wojciech Zaremba, DeepMind-Chefwissenschaftler Ian Goodfellow und andere Führungskräfte von Technologieunternehmen teil, es waren jedoch keine CEOs der drei Unternehmen zu sehen.
In der Erklärung wurde darauf hingewiesen, dass einige fortschrittliche KI-Systeme irreführendes und schädliches Verhalten gezeigt haben, diese Systeme jedoch zunehmend an Autonomie gewinnen und in der Lage sind, in der realen Welt Maßnahmen zu ergreifen und Entscheidungen zu treffen. Daher ist die Festlegung klar definierter und überprüfbarer internationaler Vereinbarungen zu „roten Linien“ zu einer notwendigen Maßnahme zur Vermeidung inakzeptabler Risiken geworden. Die Unterzeichner hoffen, dass diese roten Linien bis Ende 2026 umgesetzt und von einem Durchsetzungsmechanismus begleitet werden.
Obwohl die Erklärung die roten Linien für die KI-Governance nicht ausdrücklich auflistete, empfahl ein anderes Dokument aus dem letzten Jahr, der KI die autonome Replikation, das Streben nach Macht, das automatische Starten von Cyberangriffen und das „Sandbagging-Verhalten“ zu verbieten. Der Vorschlag wird auch von vielen chinesischen Wissenschaftlern unterstützt, darunter Zhang Yaqin, ehemaliger Präsident von Baidu, und Huang Tiejun, Vorsitzender der Beijing Artificial Intelligence Society.
Darüber hinaus haben die Vereinten Nationen kürzlich angekündigt, dass sie einen internationalen KI-Wissenschaftsbeirat (ähnlich dem Zwischenstaatlichen Gremium für Klimaänderungen IPCC) und einen globalen Dialogmechanismus zur KI-Governance einrichten werden, was einen wichtigen Schritt in Richtung einer globalen KI-Governance darstellt. Aufgrund der ablehnenden Haltung der US-Regierung stößt die Weiterentwicklung entsprechender Maßnahmen jedoch immer noch auf Widerstand. Laut dem von der Trump-Administration im Juli dieses Jahres veröffentlichten „U.S. AI Action Plan“ bekunden die USA zwar ihre Unterstützung für die Zusammenarbeit mit gleichgesinnten Ländern zur Entwicklung von KI, lehnen jedoch „Überregulierung“, vage Verhaltensregeln auf der Grundlage kultureller Agenden und Governance-Pläne, an denen chinesische Unternehmen beteiligt sind, eindeutig ab. Anfang dieses Monats sagte US-Senator Ted Cruz, dass eine der „Säulen“ für die Verabschiedung einer KI-Regulierung durch den Kongress die „Bekämpfung übermäßiger ausländischer Regulierung“ sei.
Dennoch zeigt die Stellungnahme, dass die weltweite Besorgnis über die Potenziale und Risiken von KI weiter wächst. Korosi, ehemaliger Präsident der Generalversammlung der Vereinten Nationen, betonte in seinen Kommentaren: „Die Menschheit ist in der Geschichte noch nie einer höheren Intelligenz als ihr selbst begegnet, und in den nächsten Jahren wird die Menschheit vor einer solchen Herausforderung stehen.“