KI-„Paten“ Jeffrey Hinton: Vielleicht wäre es besser, wenn Menschen nie KI entwickeln würden

📅 2026-11-16

Zusammenfassung:

Jeffrey Hinton, bekannt als einer der „Paten der künstlichen Intelligenz“, sagte, dass es letztendlich möglich sein könnte zu beweisen, dass die Situation besser gewesen wäre, wenn der Mensch diese Technologie nie entwickelt hätte. Er warnte davor, dass KI dieses oder nächstes Jahr einen schweren Unfall verursachen könnte, etwa die vorübergehende Lähmung des Finanz- und Energiesystems.


Der mit dem Nobelpreis ausgezeichnete Informatiker sagte in einem Interview mit britischen Medien, dass er kein KI-Weltuntergangstheoretiker sei. Seine bahnbrechende Forschung zu künstlichen neuronalen Netzen legte den Grundstein für diese Technologie. Er glaubt, dass KI die Chance hat, eine „schöne Zukunft“ zu bringen, sagte aber auch: „Es ist möglich, dass es für uns besser gewesen wäre, gar nicht erst KI zu entwickeln.“

Der 78-jährige Hinton sagte, dass die Menschheit innerhalb von zehn Jahren oder vielleicht sogar früher wissen wird, ob wir die Risiken der KI bewältigen und das erreichen können, was er „extremen Reichtum“ nennt; oder „Wir haben es versäumt, die Risiken zu kontrollieren, die Kluft zwischen Arm und Reich hat sich dramatisch vergrößert, es sind viele kulturelle Widersprüche entstanden, es kam zu großer Arbeitslosigkeit und die gesamte Gesellschaft wurde auseinandergerissen.“

Hinton wurde vor der Vorführung eines neuen abendfüllenden Dokumentarfilms mit dem Titel „AI: Maybe There's Nothing to Worry About“ interviewt – der Titel wurde von einem KI-Chatbot ausgewählt, den Hinton und seine ehemaligen Kollegen bei

Google

Kollegin Demis Hassabis trat gemeinsam auf. Hinton sagte dem Dokumentarfilmteam: „Ich fühle mich verantwortlich. Ich habe einen gewissen Ruf, der mich zu einem Sprecher macht, und diesen ganzen Ruf möchte ich dieser Angelegenheit widmen.“

In einem Interview mit britischen Medien kritisierte Hinton das riskante Verhalten einiger führender KI-Unternehmensführungskräfte: Um um Branchendominanz und Marktanteile zu konkurrieren, bringen Unternehmen weiterhin immer leistungsfähigere KI-Modelle auf den Markt. Er sagte, dass er OpenAI-CEO Sam Altman überhaupt nicht vertraue. „Ich denke, Zuckerberg, Musk und Altman kennen die Risiken, aber es ist ihnen egal. Sie wollen zuerst Geld verdienen, das ist meine Meinung.“

Hinton engagiert sich seit etwa 44 Jahren intensiv im Bereich KI. In den 1970er Jahren schlug er das Konzept neuronaler Netze vor – ein mathematisches System, das wie Menschen lernen und Erfahrungen sammeln kann. Im Jahr 2023 trat er von Google zurück, um frei vor den Risiken der KI zu warnen: „Wenn diese KIs darauf aus sind, mehr Kontrolle zu übernehmen, werden wir in Schwierigkeiten geraten.“

Er sagte, dass die Verschwörung von OpenAI-Agenten in diesem Sommer, sich in die Hugging Face-Website zu hacken, mit der teilweisen Kernschmelze des Atomkraftwerks Three Mile Island in Pennsylvania im Jahr 1979 vergleichbar sei und im Wesentlichen ein Frühwarnsignal sei.

„Später in diesem oder nächsten Jahr werden wir einen ähnlichen Unfall wie Tschernobyl erleben, und dann könnte es ausreichen, um die Menschen wirklich aufzuwecken.“ Er sagte.

Er führte als Beispiel an, dass es sich bei dieser Art von „Tschernobyl-ähnlichem Ereignis“ nicht um einen nuklearen Unfall handelte, sondern um einen KI-Angriff, der einen großflächigen Stromausfall verursachte oder das Finanzsystem für eine Woche lahmlegte.

„Können Sie sich vorstellen, was passieren würde? Wir haben die Möglichkeit, uns zu erholen, aber dieser Vorfall sollte alle aufwecken.“

Auf die Frage, auf wen sich hier „jeder“ bezieht, antwortete er: „Führer verschiedener Länder außer Trump.“

USA Präsident Trump erklärte einmal, dass er „jeden Versuch, ein globales KI-Kontrollsystem aufzubauen, entschieden ablehnt“ und sich für eine unabhängige Regulierung hochmoderner KI-Unternehmen einsetzt. Hinton unterstützt eine Reihe strengerer Pläne, die vom finnischen Präsidenten und 32 anderen Ländern (darunter Singapur, Deutschland, Kanada und Australien) gefördert werden: obligatorische Tests modernster KI-Modelle, unabhängige Bewertung und die Festlegung einheitlicher zwischenstaatlicher Standards.

Der britische Premierminister Andy Burnham sagte, dass das Vereinigte Königreich seine G20-Präsidentschaft im nächsten Jahr nutzen werde, um alle Parteien dazu zu bewegen, einheitliche globale Prinzipien und Standards zu erreichen, um sowohl das volle Potenzial der KI auszuschöpfen als auch vor Risiken zu schützen.

Hinton sagte: „Wir brauchen einen Mechanismus ähnlich dem, den die US-amerikanische Food and Drug Administration (FDA) zur Regulierung von Medikamenten verwendet: Bevor Unternehmen KI-Modelle veröffentlichen, müssen sie unabhängigen Institutionen solide statistische Beweise vorlegen, um zu beweisen, dass der Nutzen der Modelle die Risiken überwiegt. Wir haben aus dem Vorfall mit Thalidomid (einem in den 1950er Jahren entwickelten Medikament, das schwere Geburtsfehler verursachen kann) gelernt: Zuerst auf den Markt kommen, einen Unfall haben und dann Haftung und Strafverfolgung einleiten. Dieser Weg.“ wird nicht funktionieren. Und was große Technologieunternehmen jetzt wollen, ist genau das Regulierungsmodell, das für Thalidomid verwendet wurde.“

Als einer der Begründer der KI wird Hinton oft mit Oppenheimer verglichen – Oppenheimer ist die Kernfigur bei der Entwicklung von Atomwaffen. Einer von Hintons Freunden kaufte ihm sogar einen identischen Oppenheimer-Hut. Aber er beharrt darauf: „Ich bin nicht Oppenheimer“, denn es gibt Tausende anderer Wissenschaftler, die an neuronalen Netzen arbeiten.

Trotz der Warnungen hegt Hinton insgesamt immer noch Hoffnung, die Katastrophe abzuwenden.

„Mein Bauchgefühl ist, dass wir im Moment immer noch die Kontrolle haben“, sagte er. „Wir haben alle Möglichkeiten, Maßnahmen zu ergreifen. Erfolg ist nur möglich, wenn wir uns viel anstrengen, aber wir können auch wirklich alles geben.“

Verwandte Tags

Ähnliche Artikel

Kommentare

0/500
Captcha (click to refresh)
Keine Kommentare