Der Vater von DeepMind gibt zu: Die von mir geschaffene KI mag die Menschheit ausrotten, aber niemand kann sie aufhalten

Kürzlich gab Demis Hassabis, der Gründer von DeepMind, zu, dass die von ihm entwickelte superkünstliche Intelligenz das Risiko birgt, die Menschheit auszurotten. Der aktuelle KI-Entwicklungswettbewerb ist in einen unaufhaltsamen Zustand geraten und es ist für Menschen schwierig, ihn durch externe Governance-Methoden effektiv zu kontrollieren.Er gab die bisherige Idee, sich bei der Einschränkung der KI auf Systeme und Ethikkommissionen zu verlassen, völlig auf und räumte ein, dass die Governance-Struktur bei wichtigen Entscheidungen nur schwer eine Rolle spielen könne und er sich nur auf sich selbst verlassen könne, um das Rederecht zu erlangen, um die Richtung der KI-Sicherheit zu kontrollieren.

Hassabis war schon immer ein überzeugter Verfechter der KI-Sicherheit. In seinen frühen Jahren hatte er die Vision, durch unabhängige Aufsicht und geheime Forschung und Entwicklung eine absolut sichere Superintelligenz zu schaffen.

Als DeepMind 2014 an Google verkauft wurde, forderte es auch ausdrücklich die Beibehaltung der unabhängigen Entscheidungsbefugnis zur KI-Sicherheit, die Einrichtung eines externen Aufsichtsgremiums und das Verbot militärischer Anwendungen.

Allerdings scheiterten diese Sicherheitskonzepte nacheinander. Nachdem er an relevanten Treffen teilgenommen hatte, wandte sich Musk der Gründung von OpenAI zu und brach damit die Idee, dass ein einzelnes Subjekt die KI steuert. Nachfolgende Governance-Verhandlungen mit Google scheiterten ebenfalls.

Das Aufkommen von ChatGPT im Jahr 2022 hat das Tempo der KI-Forschung und -Entwicklung völlig durcheinander gebracht.Google geriet in Konkurrenzangst, DeepMind fusionierte mit Google Brain, Sicherheitsvorschriften wichen der Forschungs- und Entwicklungsgeschwindigkeit und die bisherigen Sicherheitsverteidigungslinien versagten nach und nach.

Hassabis hat somit die Realität verstanden. Unter dem Druck des geschäftlichen Wettbewerbs und des technologischen Wettbewerbs wird es für den gemeinnützigen Governance-Mechanismus, der auf Wirtschaftsgiganten angewiesen ist, schwierig sein, zu überleben.

Jetzt hat Hassabis seine Meinung geändert. Sein Kernanliegen besteht darin, sich die zentrale Entscheidungsposition zu sichern und die Richtung der Technologie an Schlüsselknoten mit Ehrfurcht vor KI-Risiken zu steuern.

Während er die Entwicklung von Modellen wie Gemini vorantreibt, bleibt er dem Grundsatz der Sicherheit treu und versucht, seinen persönlichen Einfluss zu nutzen, um das Risiko eines KI-Ausreißers zu verringern.

Branchenanalysten glauben, dass dieser Wandel die grausame aktuelle Situation des globalen KI-Wettbewerbs widerspiegelt. Eine einheitliche Regierungsführung ist schwer zu erreichen, das KI-Sicherheitsfenster wird immer kleiner und die Menschheit steht vor großen Herausforderungen im Zusammenhang mit dem Überleben der Zivilisation.