Zusammenfassung:
Paul Cristiano, ein bekannter KI-Sicherheitsforscher und Mitglied des Vorstands von OpenAI Holdings, warnte in einem Interview mit einem beliebten Technologie-Podcast vor den Entwicklungsaussichten künstlicher Intelligenz. Er sagte, dass die Möglichkeit, dass Menschen in Zukunft die Kontrolle über die KI völlig verlieren, rapide zunimmt.

Dieser Podcast wird montags ausgestrahlt und von Devaksh Patel moderiert. „Es besteht eine begründete Möglichkeit, dass in den nächsten sechs Monaten eine Katastrophe eintreten könnte, die viele Menschen töten oder die Regierung stürzen würde“, sagte Cristiano in der Sendung. Der Podcast hat normalerweise Millionen von Zuhörern, darunter viele Menschen aus der Technologiebranche.
Cristiano sagte, dass es von der Geschwindigkeit der Iteration der KI-Technologie abhängt, ob die oben genannten Ereignisse eintreten werden. Er schlug auch vor, dass KI-Modelle mithilfe der rekursiven Selbstverbesserungstechnologie Selbstiterations-Upgrades erreichen können und die Wahrscheinlichkeit, dass sie innerhalb des nächsten Jahres einen gefährlichen kritischen Punkt erreichen, „ziemlich hoch“ sei.
Verglichen mit Cristianos früheren öffentlichen Äußerungen stellt diese Aussage eine weitere Eskalation der Warnung dar. Er leitet außerdem das Center for Alignment Research, eine gemeinnützige Organisation mit Sitz in Berkeley, die sich auf die KI-Ausrichtungsforschung konzentriert. Als leitender Forscher, der seit langem vor KI-Sicherheitsrisiken warnt, trat er im September dem Vorstand der OpenAI Foundation bei, die das Unternehmen kontrolliert. Cristiano betonte im Interview, dass seine Rede nur seine persönliche Position darstelle und nicht die Ansichten des OpenAI-Vorstands wiederspiegele.
Als Cristiano zum ersten Mal dem Vorstand beitrat, veröffentlichte er einen öffentlichen Artikel, in dem er schätzte, dass das Risiko katastrophaler Ereignisse, die dadurch verursacht werden, dass Menschen die Kontrolle über die KI verlieren, im nächsten Jahr etwa 4 % beträgt.
In einem Interview am Montag sagte er, dass die Modellfähigkeiten in den letzten Monaten rasante Fortschritte gemacht hätten, und er schätzt nun, dass das Risiko, dass die KI im nächsten Jahr den Menschen übernimmt, „eher bei 10 % und nicht bei 1 %“ liege. Er sagte, wenn große Unternehmen nicht mehr Schutzmaßnahmen ergreifen, um die durch die KI-Entwicklung verursachten Risiken zu mindern, werde die Risikoschätzung „deutlich höher“ sein.
Kommentare