Zusammenfassung:
Der Generalsekretär der Vereinten Nationen, Guterres, warnte am Mittwoch Ortszeit die Staats- und Regierungschefs verschiedener Länder, dass die sich schnell entwickelnde künstliche Intelligenz (KI) Risiken mit sich bringt, die nicht ignoriert werden können, und dass die Welt das Risiko eines Wettlaufs nach unten im Bereich der KI-Sicherheit nicht ertragen kann. Diese Aussage steht im Widerspruch zu US-Präsident Trump, der zuvor gesagt hatte, die bestehenden Regulierungsmaßnahmen seien ausreichend.
Vor der Generalversammlung der Vereinten Nationen nächste Woche in New York sagte Guterres, dass die Stärkung der KI-Regulierung eines der Schlüsselthemen sein werde, die in seinen Gesprächen mit führenden Politikern der Welt diskutiert werden.
Auf der Pressekonferenz sagte Guterres: „Angesichts der Bedrohungen, denen wir weltweit ausgesetzt sind, möchte ich noch ein paar zusätzliche Anmerkungen zu den wachsenden Bedenken machen, die durch die rasante Entwicklung der KI entstehen.“
Er fügte hinzu: „KI hat ein enormes Potenzial, den Fortschritt in Richtung einer nachhaltigen Entwicklung zu beschleunigen, das Lernen zu verbessern, Gesundheitssysteme zu stärken, die Widerstandsfähigkeit gegenüber dem Klimawandel zu erhöhen und vieles mehr.“
Aber er wies auch darauf hin: „Immer mehr Menschen, die an der KI-Entwicklung beteiligt sind, geben Warnungen heraus – sie befürchten, dass die Entwicklungsgeschwindigkeit der KI unser Verständnis ihrer potenziellen Risiken übersteigt.“
„Wir können die Bedenken nicht ignorieren, die vor allem von denen geäußert werden, die an vorderster Front der KI-Entwicklung stehen. Die erste Verantwortung jeder Regierung besteht darin, ihre Bürger zu schützen, und dazu gehört auch, sie vor den Bedrohungen durch KI zu schützen.“
Da die öffentliche Besorgnis über die potenziellen Risiken von KI weiter zunimmt, gibt es immer mehr relevante Warnungen. Der Anthropic-Forscher Jacob Coxon sagte letzte Woche, er sei teilweise zurückgetreten, weil „die Leute, die wirklich an der Entwicklung der KI beteiligt sind, ernsthaft glauben, dass diese Technologie uns alle vor dem Ende dieses Jahrzehnts töten könnte.“ Gleichzeitig haben auch Führungskräfte einiger der weltweit größten KI-Unternehmen eine Verlangsamung der Technologieentwicklung gefordert.
Trump sagte am Montag, dass die Vereinigten Staaten entsprechende „Leitplanken“-Maßnahmen eingeführt hätten, um KI-Unternehmen zu überwachen und sie zur Rechenschaft zu ziehen. Er spielte auch Bedenken herunter, die zuvor von Führungskräften der Branche geäußert worden waren.
Guterres fördert seit langem die Einrichtung eines globalen Governance-Mechanismus für künstliche Intelligenz. Im Jahr 2023 richteten die Vereinten Nationen ein hochrangiges Beratungsgremium für künstliche Intelligenz ein, das aus 39 Mitgliedern besteht, darunter Führungskräfte von Technologieunternehmen, Regierungsbeamte und Wissenschaftler aus den Vereinigten Staaten, Russland, Japan und anderen Ländern.
Mehrere Diplomaten sagten, dass, wenn sich die Staats- und Regierungschefs der Welt nächste Woche in New York zum Jahrestreffen der Vereinten Nationen treffen, der Sicherheitsrat der Vereinten Nationen möglicherweise auch ein Treffen zu KI-Fragen abhält. Der Sicherheitsrat der Vereinten Nationen hielt 2023 seine erste Sitzung zu KI-Fragen ab.
Guterres sagte, dass Länder mit den stärksten technischen Fähigkeiten im Bereich der KI „Kommunikations- und Informationsaustauschmechanismen einrichten und einige gemeinsame Sicherheitsleitplanken entwickeln sollten, um nicht in einen Wettlauf nach unten zu geraten (das heißt, die Teilnehmer gewinnen Wettbewerbsvorteile durch kontinuierliche Senkung der Standards), andernfalls könnte dieser Wettbewerb eines Tages zu großen Katastrophen auf globaler Ebene führen.“
Guterres forderte: „Wir müssen ein gemeinsames Verständnis dafür entwickeln, dass wir zwar die sichere und verantwortungsvolle Entwicklung der KI gewährleisten, aber auch klären müssen, wann möglicherweise strengere Sicherheitsleitplanken erforderlich sind oder zusätzliche Maßnahmen erforderlich sein könnten, um potenziellen Risiken zu begegnen, da die Fähigkeiten von KI-Systemen weiter zunehmen.“
Verwandte Artikel:
Der Generalsekretär der Vereinten Nationen warnt: Die Entwicklungsgeschwindigkeit der künstlichen Intelligenz hat das Tempo der Aktualisierung regulatorischer Vorschriften bei weitem übertroffen
Kommentare