Zusammenfassung:
Wussten Sie, dass KI selbst im Vergleich zu Epidemien, Klima, Krieg und nuklearen Bedrohungen die wahrscheinlichste Sache ist, die die Menschheit vor 2100 zerstören wird? Diese erstaunliche Schlussfolgerung stammt aus dem maßgeblichen Bericht von The Lancet. The Lancet schrieb in dem am 11. Oktober veröffentlichten Bericht des Ausschusses „Globale Gesundheitsbedrohungen im 21. Jahrhundert“, dass unter 17 Bedrohungen, darunter Klimawandel, Epidemien und Umweltverschmutzung, Atomkonflikte und der böswillige Einsatz künstlicher Intelligenz an erster Stelle standen und vor dem Jahr 2100 zur Ausrottung der Menschheit führen könnten.
Dieser Bericht wurde von 35 Top-Experten verfasst und die gesamte Studie deckte 204 Länder und Regionen auf der ganzen Welt ab. Der Bericht erinnerte auch daran, dass diese Bedrohungen interagieren und sich gegenseitig verstärken könnten.
Der erschreckendste Teil des Berichts ist, dass, obwohl KI und Atomkonflikte beide die größten Probleme bei der Zerstörung der Menschheit sind, der durch KI verursachte Schaden den eines Atomkonflikts bei weitem übersteigt.
Wenn Amoudi das über das Ende der KI sagen würde, würde ich mir das vielleicht nur zum Spaß anhören. Schließlich gibt es schon so viele ähnliche Wörter, dass meine Ohren fast schwielig werden.
Aber dieses Mal wurde es von The Lancet gesagt, und ich hatte wirklich Angst.
Was sagt The Lancet?
Der Lancet-Bericht wurde vom Institute for Health Metrics and Evaluation (IHME) der University of Washington geleitet. Sie ordneten die Bedrohungen, die sich in den nächsten 75 Jahren auf die menschliche Gesundheit auswirken könnten, in der Reihenfolge ihrer Schwere in einer „Bedrohungspyramide“ ein, mit einer separaten Kategorie an der Spitze:
Bedrohungen, die vor dem Jahr 2100 zum Aussterben der Menschheit führen könnten.
In dieser Kategorie gibt es nur zwei Dinge: Das eine ist die „nukleare Hungersnot“, die durch einen Atomkonflikt verursacht wird, und das andere ist der böswillige Einsatz künstlicher Intelligenz.
Selbst Asteroideneinschläge auf die Erde und Supervulkanausbrüche haben die Spitze der Pyramide nicht erreicht, da das Komitee die Wahrscheinlichkeit ihres Auftretens in den nächsten 75 Jahren für „extrem gering“ hält.
Das bedeutet aber nicht, dass „KI die Menschheit definitiv ausrotten wird.“
Im Originaltext des Berichts heißt es, dass „die Eintrittswahrscheinlichkeit dieser beiden Arten von Risiken immer noch sehr gering ist“, aber sobald sie eintreten, werden die Folgen auf der gesamten menschlichen Ebene spürbar sein.
Der Bericht enthält eine Einheit namens DALYs, die für „Disability Adjusted Life Years“ steht. Einfach ausgedrückt handelt es sich um die Gesamtzahl der gesunden Lebensjahre, die eine Person aufgrund von Krankheit, Behinderung oder frühem Tod verliert.
Das Komitee nutzte es, um zu messen, wie viel „Verlust an gesundem Leben“ jede Bedrohung letztendlich bis zum Jahr 2100 verursachen würde.
Der böswillige Einsatz von KI kann bis zum Jahr 2100 Verluste in Höhe von etwa 10,4 Milliarden DALYs verursachen, was in etwa dem Ausmaß von Fettleibigkeit entspricht. Ein nuklearer Konflikt würde etwa 133 Millionen Todesopfer und einen Verlust von etwa 9,35 Milliarden DALYs verursachen.
The Lancet glaubt, dass KI gefährlicher ist als Atomwaffen. Das Komitee gab sich alle Mühe zu betonen, dass dies darauf abzielte, „umsetzbare Hebel“ zu messen und nicht das tragischste Ergebnis hochzuspielen.
Wie „vernichtet“ uns die KI? Ist es Skynet aus „Terminator“? Oder MOSS aus „The Wandering Earth“?
Weder noch. The Lancet glaubt, dass es für KI nur einen Weg gibt, die Menschheit zu zerstören, nämlich biologische Waffen.
Manche Menschen nutzen KI in böswilliger Absicht, um Krankheitserreger oder Toxine zu entwickeln oder zu verändern, die zu Massenopfern führen können.
The Lancet argumentiert, dass KI die Hemmschwelle für gefährliche Dinge senkt.
In der Vergangenheit erforderte die Modifizierung eines Virus erstklassige Labore, teure Ausrüstung sowie das „Gefühl“ und das stillschweigende Wissen, das sich die Forscher im Laufe der Jahre angesammelt hatten. Was das große Modell tun kann, ist, Menschen bei der Suche nach Literatur zu helfen, Versuchspläne zu entwerfen, Bewerbungsunterlagen zu schreiben und zu erklären, warum jeder Schritt ausgeführt wird.
Am 10. September 2026 veröffentlichte Anthropic einen Threat-Intelligence-Bericht, der mehrere Arten von Missbrauch offenlegte, die sie zwischen Dezember 2025 und August 2026 abgefangen hatten. Darunter gab es fünf Fälle, in denen Benutzer Claude auf eine Weise verwendeten, die „die Entwicklung biologischer Waffen unterstützen könnte“:
• Im Mai dieses Jahres bat jemand Claude, beim Verfassen eines Förderantrags zu helfen, um zu untersuchen, welche Mutationen im Chikungunya-Virus dazu führen könnten, dass es sich effizienter ausbreitet und dem Immunsystem leichter entkommt.
• Manche Leute nutzen es, um Experimente zu planen, um hochpathogene Vogelgrippeviren anpassungsfähiger an Säugetierwirte zu machen.
• Es wurde ein Vorschlag ausgearbeitet, um zu untersuchen, wie die Virulenz der Orthopoxvirus-Familie, zu der Pocken und Affenpocken gehören, verändert werden kann.
• Jemand arbeitete an einem Medikamentenentwicklungsprojekt, um eine Karte von Giftgiften zu erstellen.
• Ein anderer Forscher nutzte Claude, um bei der computergestützten Neugestaltung einer Reihe von Toxinen zu helfen, darunter ein bakterielles Toxin und ein Protein eines großen krankheitsbedrohenden Virus, und verwendete beim Verfassen von Fortschrittsberichten absichtlich vage Begriffe, um sich auf diese Toxine zu beziehen.
Daher wird der Missbrauch von KI der gesamten Menschheit mit Sicherheit erheblichen Schaden zufügen.
Die KI-Weltuntergangstheorie wurde in zwei Lager gespalten
Tatsächlich tauchten vor der Veröffentlichung des Lancet-Berichts jeden Monat KI-Weltuntergangstheorien auf. Im September beispielsweise diskutierten alle Gesellschaftsschichten darüber, ob KI den Weltuntergang herbeiführen würde.
Am 8. September gab der ehemalige Anthropic-Forscher Jacob Coxon seinen Rücktritt bekannt und erklärte öffentlich, dass sowohl OpenAI als auch Anthropic „auf Menschenleben wetten“ und dass KI „uns alle vor dem Ende dieses Jahrzehnts töten könnte“. Der Beitrag erhielt in kurzer Zeit über 100 Millionen Aufrufe.
Am nächsten Tag schrieb Evan Hubinger, Leiter der Alignment-Wissenschaft bei Anthropic: „Wir glauben ernsthaft, dass KI jeden töten könnte, und ich persönlich denke, dass die Wahrscheinlichkeit innerhalb der nächsten zehn Jahre bei mehr als 10 % liegt.“
KI-Paten Hinton sagte später, dass die Zahl von 10 % „nicht unverschämt“ sei.
Drei Tage später gab Amoudi eine konkretere Stellungnahme ab. Er geht davon aus, dass eine Gruppe von Agenten innerhalb von sechs bis zwölf Monaten das gesamte Internet übernehmen und Verluste in Höhe von Hunderten Milliarden Dollar verursachen könnte.
Ultraman und Musk, zwei Erzfeinde, stehen an derselben Front und unterstützen „die Verlangsamung des Tempos der KI-Entwicklung“.
Obwohl die Feuerkraft der positiven Seite enorm ist, ist die Stärke der negativen Seite auch nicht schwach.
Huang Renxun erwähnte im Interview, dass die Wahrscheinlichkeit, dass KI die Welt vor 2030 zerstört, bei 0 % liegt. Er glaubt, dass die von Evan erwähnte „10-prozentige Wahrscheinlichkeit, dass KI jeden tötet“ keine wissenschaftliche Grundlage hat und eine „unverantwortliche“ Intuition ist.
„KI, die nicht sicher kontrolliert werden kann, sollte nicht freigesetzt werden.“ sagte Huang Renxun.
Heidy Khlaaf, leitende Wissenschaftlerin des AI Now Institute, glaubt, dass, egal ob es 10 % oder 20 % beträgt, „es weder falsifizierbar noch überprüfbar ist, also von Natur aus unwissenschaftlich.“
Der Kognitionswissenschaftler Gary Marcus sagte, die Idee, dass „Agenten das Internet übernehmen“, sei „lächerlich“.
Sein Grund ist, dass sich der Großteil der zugrunde liegenden Infrastruktur des Internets in den Händen großer Unternehmen wie Cloudflare, Google und Amazon AWS befindet. Ohne das Eingreifen der Regierungstruppen ist es schwer vorstellbar, dass sie für längere Zeit durchbrochen oder kontrolliert werden können.
Er zitierte außerdem einen Bewertungsbericht des britischen AI Security Research Institute, wonach das leistungsfähigste Mythos-Modell von Anthropic nur unabhängig in „kleine, schwach geschützte“ Systeme eindringen könne. Solange die Gegenpartei ihren Netzwerksicherheitsschutz verbessert, ist Mythos hilflos.
Wenn Sie zusammenschauen, werden Sie einen sehr interessanten Aspekt dieser Debatte entdecken:
Die positive Seite spricht von „Konsequenzen“, während die negative Seite von „Beweisen“ spricht.
Einerseits betonen Sie, dass die Folgen unerträglich sind, solange die Wahrscheinlichkeit nicht Null ist. Andererseits betonen Sie, dass Sie nicht einmal erklären können, wie Sie diese Wahrscheinlichkeit berechnet haben. Warum sollten Sie also die ganze Welt nervös machen?
Obwohl Amodei und Altman eine Verlangsamung des Tempos befürworteten, beschuldigten die Medien sie außerdem, im Namen der Sicherheit einen Wassergraben für sich selbst zu bauen, um zu verhindern, dass nachfolgende Konkurrenten eindringen.
Akademische Kreise unterstützen Zheng Fang eher.
Zum Beispiel das Papier „Wie kann KI Menschen auslöschen?“ In „Failure Mode Analysis of Civilization Risks“ (arXiv:2610.08878) wird erwähnt, dass
katastrophale KI-Risiken nicht erfordern, dass die KI bei Bewusstsein oder feindselig ist oder eine klare Schadensabsicht hat.
Risiken können auf mehreren miteinander verflochtenen Wegen entstehen: autonome Ungenauigkeit, böswillige Nutzung durch Menschen, organisatorisches Versagen und wettbewerbsorientierter Einsatz. Der Autor stellte außerdem ausdrücklich fest, dass das Papier „nicht operativ“ sei und nur die Ursachen analysierte und keine Methoden zum Bösen darstelle.
Aber bisher hat niemand diese Debatte wirklich „gewonnen“.
Kommentare