Zusammenfassung:
Am 11. September sagte „AI Godfather“ Geoffrey Hinton laut „Business Insider“:
Es ist schwierig, die Wahrscheinlichkeit abzuschätzen, dass KI alle Menschen auslöschen wird, aber diese Wahrscheinlichkeit ist nicht Null.
Hinton sagte am Mittwoch gegenüber BBC Newsnight: „Mir scheinen10 Prozent keine unverschämte Schätzung zu sein, aber in Wirklichkeit weiß niemand, wie man eine vernünftige Schätzung abgibt.
.“ ”
Hinton
„Newsnight“-Moderatorin Victoria Derbyshire zeigte sich überrascht, weil Hinton dem Urteil von Jacob Coxon, dem führenden KI-Sicherheitsforscher von Anthropic, grundsätzlich zustimmte. Der Forscher sagte:
In den nächsten 10 Jahren wird KI „mit einer Wahrscheinlichkeit von mehr als 10 % alle Menschen töten“
.„Wow“, sagte Derbyshire, „Oh mein Gott.“
Hinton sagte, es sei schwierig, die konkrete Wahrscheinlichkeit abzuschätzen, da die menschliche Gesellschaft noch nie eine Technologie gesehen habe, die „bald vielleicht intelligenter sein könnte als wir“.
„Es wäre dumm zu sagen, dass es nur eine Wahrscheinlichkeit von 1 % gibt“, sagte er. „Niemand weiß, wie man es einschätzt.“
Sicher sei, so der Nobelpreisträger, dass das Zeitfenster, in dem eine solche Katastrophe eintreten könnte, kürzer geworden sei. „Früher dachte ich, es wären 30 bis 50 Jahre, und dann wurde es auf 10 bis 20 Jahre verkürzt“, sagte er. „Jetzt denke ich, dass es 10 Jahre oder sogar kürzer sein könnten. Andere denken, dass es viel schneller geht.“
Zur Frage, wie dies passieren könnte, nannte Hinton Risiken, die von Cyberangriffen bis hin zur Entwicklung tödlicher Viren durch KI reichen. Obwohl Hinton nicht sagte, warum dieser Zeitrahmen erheblich verkürzt wurde, haben führende KI-Unternehmen wie Anthropic und OpenAI Milliarden von Dollar in die Skalierung ihrer Modelle investiert, und ihre kürzlich veröffentlichten Produkte zeigten erhebliche Verbesserungen gegenüber Modellen von vor wenigen Monaten.
Hintons Kommentare kamen, nachdem der Anthropic-Forscher Coxon am Vorabend des mit Spannung erwarteten Börsengangs des Unternehmens seinen Rücktritt bekannt gegeben hatte. Coxon, der zuvor bei OpenAI arbeitete, sagte, die KI-Giganten würden „mit unserem Leben aufs Spiel setzen“.
„Diejenigen, die KI entwickeln, glauben aufrichtig, dass KI uns alle vor dem Ende dieses Jahrzehnts töten könnte“, schrieb Coxon weiter
Hinton sagte, dass Menschen möglicherweise einen Weg der Selbstzerstörung einschlagen oder Wege finden könnten, „mit den von der KI ausgehenden Gefahren umzugehen“ und gleichzeitig das Potenzial der KI zu erkennen. Er bekräftigte seine Forderung nach einer stärkeren globalen Regulierung und stellte fest, dass sich die Länder zwar möglicherweise nicht in allen Fragen einig seien, sie aber alle den gemeinsamen Wunsch hätten, das Überleben der Menschheit zu sichern.
„Länder haben das gleiche Interesse daran, zu verhindern, dass KI den Menschen ersetzt. Deshalb werden sie irgendwann zusammenarbeiten. Die Frage ist, können sie rechtzeitig Maßnahmen ergreifen?“ sagte er.
Kommentare