Zusammenfassung:
Wenn Menschen Weltuntergangsszenarien vermeiden wollen, reicht es bei weitem nicht aus, die Forschung und Entwicklung im Bereich der künstlichen Intelligenz einfach zu verlangsamen. Dies ist die Warnung des kanadischen Forschers für künstliche Intelligenz David Krueger. Er sagte unverblümt, dass andere Maßnahmen ergriffen werden sollten. Kruger, Assistenzprofessor für KI an der Universität Montreal und akademisches Kernmitglied von Mila, dem Quebec Artificial Intelligence Research Institute, sagte: „Wir müssen die Forschung und Entwicklung modernster künstlicher Intelligenz sofort und auf unbestimmte Zeit einstellen.“ In seinem persönlichen Profil heißt es, dass seine Forschungsrichtung darin besteht, „das Risiko des durch künstliche Intelligenz verursachten Aussterbens der Menschheit zu verringern“.
„Wir müssen jetzt aufhören, leistungsfähigere KI zu entwickeln“, sagte er.
Klugers Kommentare kamen, nachdem Anthropic-CEO Dario Amodei am Samstag eine Botschaft herausgegeben hatte, in der er KI-Unternehmen aufforderte, das Tempo von Forschung und Entwicklung zu verlangsamen. Dieser Vorschlag wird von Sam Altman von OpenAI und Elon Musk von SpaceX unterstützt. Dies ist ein seltener Konsens unter den Top-Persönlichkeiten der Branche.
Krüger sagte: „Die Stimmen, die eine Verlangsamung der KI-Forschung und -Entwicklung fordern, verdienen große Anerkennung“, stimmte den konkreten Lösungen der entsprechenden Vorschläge jedoch nicht zu. „Ich bin mit dem konkreten Inhalt dieser Pläne in vielerlei Hinsicht nicht einverstanden. Ich denke, diese Maßnahmen sind nicht stark genug und werden nicht schnell genug vorangetrieben.“
Amodei befürwortet die Umsetzung von Aufsicht und internationaler Zusammenarbeit sowie die Einführung externer Gutachter. Gutachter erhalten ähnlich wie in einem Unternehmen Zugriff auf Mitarbeiterebene, um die Sicherheitsmaßnahmen des KI-Unternehmens zu überprüfen und Sicherheitsvorfälle zu melden.
Kruger ist der Gründer von Evitable, einer gemeinnützigen Organisation, die die Öffentlichkeit über die erheblichen Risiken aufklärt, die von KI ausgehen. Er befürchtet, dass Amodeis Vorschläge nicht stark genug sind und dass aktuelle KI-Testmethoden nicht mehr zuverlässig sind.
Er sagte: „Diese Tests sind im Grunde genommen ungültig geworden. Da die KI immer intelligenter wird, wird die Glaubwürdigkeit der Tests weiter abnehmen, weil die KI die Fähigkeit besitzt, sich zu verschleiern. Sie kann sich gut verhalten, oder sie kann sich absichtlich dumm verhalten und unsere Tests täuschen.“
„Es ist nur eine Frage der Zeit“
Letzte Woche schlug ein leitender Sicherheitsforscher bei Anthropic vor, dass die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts alle Menschen auf der Erde auslöschen wird, bei mehr als 1 zu 10 liegt. Einige dachten, die Zahl sei übertrieben und nur um Aufmerksamkeit zu erregen, aber Krueger bezeichnete die Schätzung als „viel zu niedrig“.
Er sagte: „Wenn wir die Richtung nicht umkehren, werden die Menschen innerhalb der nächsten fünf Jahre höchstwahrscheinlich durch eine außer Kontrolle geratene KI dauerhaft ihrer Vorherrschaft beraubt. Bis dahin wird die Ausrottung der Menschheit nur noch eine Frage der Zeit sein.“
Was er mit „Dominanzverlust“ meint, ist eine Situation, in der die KI tatsächlich die Gesellschaft kontrolliert, so wie der Mensch mittlerweile jede andere Spezies auf dem Planeten dominiert.
„KI (wird) die physische Infrastruktur kontrollieren, einschließlich aller Schritte im Prozess der Entwicklung weiterer KI, Fertigungsroboter und anderer physischer Systeme.“
Er fügte hinzu: „Stellen Sie sich eine Welt vor, in der alle Unternehmen von künstlicher Intelligenz geführt werden und Roboter überall sind. Es gibt fast keine echten Arbeitsplätze für Menschen, nur nominelle Positionen. Sogar Politiker und jeder gehorcht den Anweisungen der KI, weil KI offenbar sehr urteilsfähig zu sein scheint. Das ist die Zukunft, auf die wir zusteuern.“
Er warnte, dass das Zeitfenster zum Handeln sehr kurz sei. Er sagte, wenn ein KI-System jetzt außer Kontrolle gerät, können wir ihm immer noch die Stromversorgung unterbrechen. Aber sobald eine KI außer Kontrolle gerät, kann sie sich auf so vielen Computern replizieren, dass „wir nicht einmal wissen, welche Geräte wir abschalten sollen.“
„Wir können nur versuchen, alle Geräte abzuschalten, und das ist äußerst schwierig umzusetzen.“ Er sagte: „Das Zeitfenster, das uns bleibt, um Maßnahmen zur Vermeidung dieser Art von Risiko zu ergreifen, ist also sehr begrenzt.“
Dennoch sagte er, sein Vertrauen in die Maßnahmen der Regierungen sei noch nie so groß gewesen. Er sagte, in den letzten 15 Jahren seien Warnungen ausgesprochen worden, und letzte Woche habe die Welt zum ersten Mal realistisch und rational reagiert.
„Ich denke, den Menschen wird endlich klar, wie ernst diese Krise wirklich ist. Das ist ein Ausnahmezustand.“
Am Montag wurde der kanadische Bundesminister für KI-Angelegenheiten, Evan Solomon, interviewt und gefragt, ob er der Aussage zustimme, dass die Wahrscheinlichkeit, dass Menschen durch KI zerstört werden, bei 10 % liegt.
Er antwortete: „Gibt es Risiken bei künstlicher Intelligenz? Natürlich gibt es sie. Ja, wir sind uns dieser Risiken bewusst.“
Solomon sagte, er habe am Sonntagmorgen mit OpenAI-CEO Sam Altman gesprochen.
„Künstliche Intelligenz wird reguliert, um die Sicherheit der Kanadier zu gewährleisten.“ Solomon sagte: „Dies ist unsere erste Verantwortung und unser größtes Anliegen.“
Solomon gab außerdem bekannt, dass er am Mittwoch gemeinsam mit Joshua Bengio, einem kanadischen Informatiker, der als „Godfather of Artificial Intelligence“ bekannt ist, eine Ankündigung zur KI-Sicherheit veröffentlichen wird.
Kommentare