KI-Pate Hinton: Dieses oder nächstes Jahr kann es im KI-Bereich zu Unfällen auf Tschernobyl-Niveau kommen

Zusammenfassung:

Jeffrey Hinton, bekannt als „Godfather of AI“ und Nobelpreisträger, äußerte in einem Interview mit dem Guardian eine eindringliche Warnung.

Er geht davon aus, dass es dieses oder nächstes Jahr zu einem schweren Unfall in der Größenordnung von Tschernobyl im KI-Bereich kommen könnte

Hinton verglich das Eindringen des OpenAI-Agenten in die Plattform Hugging Face in diesem Sommer mit dem Unfall von Three Mile Island in der Geschichte der nuklearen Sicherheit. Es war ein gefährliches Frühwarnsignal, aber keine wirkliche Katastrophe.

Das sogenannte „Tschernobyl“ in der KI-Welt besteht nicht darin, dass KI in Science-Fiction-Filmen autonom rebelliert und die Menschheit auslöscht, sondern darin, dass KI von Hackern genutzt wird, um Cyberangriffe auf kritische Infrastrukturen zu starten. Das typischste Szenario ist ein großflächiger und langfristiger Stromausfall oder eine einwöchige Lahmlegung des globalen Finanzsystems, was sich direkt auf die Lebensgrundlage der Menschen auswirkt

In dem Interview erklärte Hinton unverblümt, dass er hinsichtlich der Risikohaltung des Managements führender KI-Unternehmen nicht optimistisch sei, und kritisierte Altman von OpenAI, Zuckerberg von Meta, Musk und andere.

Hinton sagte, dass sie sich der enormen versteckten Gefahren der KI bewusst seien, ihnen aber angesichts der Konkurrenz und Interessen der Unternehmen nicht genügend Aufmerksamkeit geschenkt hätten. Jedes Unternehmen konzentrierte sich nur darauf, um Modellfähigkeiten zu konkurrieren und den Markt zu erobern.

Es sollte darauf hingewiesen werden, dass Hinton nicht gegen KI ist.

Er glaubt, dass KI ein zweischneidiges Schwert ist. Er erkennt, dass es einen großen positiven Wert hat und der Menschheit eine glänzende Zukunft bringen kann. Wenn es jedoch zu einem schweren Unfall kommt, bereuen die Menschen möglicherweise, dass sie diese Technologie gar nicht erst hätten erfinden sollen

Aus seiner Sicht werden die nächsten zehn Jahre eine kritische Zeitspanne für die Menschheit sein. Die Menschheit wird irgendwann überprüfen, ob sie die Risiken der KI kontrollieren kann.

Wie kann man also Risiken vorbeugen? Auch die Lösung von Hinton ist sehr klar:

Für hochmoderne Großmodelle müssen verbindliche Sicherheitstests und unabhängige Bewertungen durch Dritte implementiert werden, um die Etablierung einheitlicher KI-Sicherheitsstandards in allen Ländern zu fördern und regulatorische Beschränkungen auszunutzen.