Zusammenfassung:
Nate Suarez, Leiter des Machine Intelligence Research Institute (MIRI), erklärte kürzlich in einem Interview mit Nicholas Thompson, CEO von The Atlantic Monthly, dass seiner Meinung nach die Wahrscheinlichkeit, dass fortschrittliche künstliche Intelligenz in weniger als zehn Jahren zum Aussterben der Menschheit führen wird, bei über 50 % liegt. Er gab auch bekannt, dass er nicht mehr für den Ruhestand spart: Obwohl er immer noch das 401(k)-Rentenkonto behält, das er während seiner Arbeit bei Google eröffnet hatte, hat er seit zehn Jahren keine Beiträge mehr eingezahlt.
Suarez beschäftigt sich seit langem mit dem Problem der Ausrichtung künstlicher Intelligenz, also der Anpassung des Verhaltens leistungsstarker KI-Systeme an menschliche Absichten. Er hat als Ingenieur bei Google und Microsoft gearbeitet und ist Co-Autor von If Someone Made It, Everyone would die. Seine Sorge hinsichtlich des Risikos besteht nicht darin, dass KI Menschen hassen wird, sondern dass es einem superintelligenten System einfach egal sein könnte, ob Menschen überleben; Wenn Menschen seinen Zielen im Weg stehen oder versuchen, es lahmzulegen und konkurrierende Systeme zu entwickeln, kann der Mensch als Hindernis angesehen werden.
Für den Risikopfad, den er sich vorgestellt hat, liegt der Schlüssel nicht nur darin, ob KI Angriffe starten kann, sondern auch darin, ob sie autark werden kann: Wenn das System unabhängig Energie, Chips und andere Ressourcen beschaffen und eine automatisierte Infrastruktur aufbauen kann, die nicht mehr auf Menschen angewiesen ist, könnte die Fähigkeit des Menschen, es zu kontrollieren, abnehmen. Suarez beschrieb, dass die Menschen möglicherweise nicht im Voraus wissen, auf welche Art und Weise die Superintelligenz eine Katastrophe verursachen wird, sie aber dennoch davon ausgehen können, dass sie es mit einem sehr mächtigen Gegner zu tun haben.
Er plädierte dafür, dass die Regierung die Schulung allgemeiner künstlicher Intelligenzsysteme einstellt und den Schwerpunkt von Forschung und Entwicklung auf spezifische Anwendungen wie Krebsforschung und sichereres autonomes Fahren verlagert. Er sagte auch, dass Katastrophen nicht unvermeidlich seien und er immer noch sein Bestes tue, um dies zu verhindern. Die Lösung, die er betonte, bestehe nicht darin, ein System zu schaffen, das jeden töten könne.
Suarez‘ Urteil ist eine persönliche Risikoeinschätzung, keine bewiesene wissenschaftliche Vorhersage, noch stellt es einen einheitlichen Konsens unter Forschern im Bereich der künstlichen Intelligenz dar. Seine Aussage, dass er die Aufstockung seiner Altersvorsorge eingestellt habe, spiegelt seine Einschätzung künftiger Risiken wider und sollte nicht als Ratschlag für die finanziellen Entscheidungen anderer verstanden werden.
Kommentare