Wovor haben die Eliten des Silicon Valley beim Aufbau von KI und beim Graben von Bunkern Angst?

Zusammenfassung:

Vor zehn Jahren erzählte Altman dem New Yorker, dass er Waffen, Gold, Antibiotika und Gasmasken vorbereitet und auch ein Stück Land in Big Sur, Kalifornien, hinterlassen habe, zu dem er fliegen könne. Zehn Jahre später erklärt der Chef von OpenAI der Öffentlichkeit, warum jeder einige der Risiken akzeptieren sollte, die die KI mit sich bringt.

Laut einem Reuters-Bericht vom 4. Oktober argumentierte Altman in einem Interview:

Um die enormen Vorteile der KI zu nutzen und die Autonomie der Menschen bei der Nutzung von Technologie zu bewahren, muss die Gesellschaft das Auftreten einiger „schlechter Dinge“ wie Hackerangriffe, Betrug und Technologiemissbrauch tolerieren.

Während er die Öffentlichkeit auffordert, Risiken einzugehen, und gleichzeitig heimlich einen Rückzug für sich selbst vorbereitet, ist dies nicht die einzigartige Aktion von Ultraman allein. Laut Medienberichten wie dem Wall Street Journal erwägen einige frühe Mitarbeiter von Anthropic auch den Kauf von Land in abgelegenen Gebieten der Vereinigten Staaten, um sie schnell evakuieren zu können, „wenn es ein Problem mit der KI gibt“.

Sie glauben fest daran, dass Technologie die Welt verändern kann, haben aber große Angst, dass sie die Folgen eines Kontrollverlusts nicht bewältigen können.

Diese Gruppe von Menschen, die persönlich den Gasknopf der Zeit drückten, während sie auf der Pressekonferenz eine bessere Zukunft beschrieb, errichteten heimlich unterirdische Festungen in der Wildnis. Außerhalb der Festung gibt es gewöhnliche Menschen, die keine Ahnung haben, was passiert, und die es nicht verhindern können.

Der Fluchtweg im Luxusbunker

Auf der hawaiianischen Insel Kauai baut Meta-Gründer Mark Zuckerberg einen hohen Zaun für seine Koolau Ranch.

Nach Durchsicht der Planungsunterlagen stellte das Magazin Wired fest, dass er den Bau eines etwa 465 Quadratmeter großen unterirdischen Unterschlupfs im Herrenhaus plant, der nicht nur die Wohnhäuser durch Durchgänge verbinden, sondern auch speziell eingerichtete Fluchtausgänge vorsieht.

Es wird geschätzt, dass Zuckerberg mehr als 270 Millionen US-Dollar für das gesamte Projekt (einschließlich des Grundstückskaufs) ausgegeben hat. Anschließend kaufte er weiteres Land in der Nähe und erweiterte den Landbesitz auf Kauai auf mehr als 2.300 Acres.

Die Reichen suchen Zuflucht weit über Hawaii hinaus. Bereits 2015 kaufte der Investmentmagnat Peter Thiel 193 Hektar Land in der Nähe von Wanaka, Neuseeland; Der frühere Facebook-Produktmanager Antonio Garcia Martinez kaufte Waldland auf einer kleinen Insel und rüstete es mit Generatoren, Sonnenkollektoren und Munition aus.

Investor Reed Huffman schätzte gegenüber The New Yorker, dass

mehr als die Hälfte der ihm bekannten Silicon Valley-Milliardäre irgendeine Art von Evakuierungsvorbereitung getroffen haben.

Wenn in der Anfangszeit reiche Leute aus dem Silicon Valley Land nur aus Sorge vor der Pandemie oder sozialen Unruhen kauften, wird diese Art der Vorbereitung bei den KI-Emporkömmlingen immer gezielter und dringlicher.

Im Sommer 2023 erklärte der OpenAI-Mitbegründer und damalige Chefwissenschaftler Ilya Suzkver bei einem Treffen mit neuen Forschern unverblümt, dass vor der Veröffentlichung von AGI (allgemeine künstliche Intelligenz) ein Bunker gebaut werden müsse, um die Sicherheit der Kernwissenschaftler zu schützen. Er fügte hinzu, dass die Einreise völlig freiwillig sei.

Obwohl dies nur ein Vorschlag war, verspürte er bereits eine gewisse Angst vor der von ihm entwickelten Technologie, als er diese Worte sagte.

Wovor haben sie Angst

Als Harari in „Eine kurze Geschichte der Menschheit“ über die „Frankenstein-Prophezeiung“ sprach, wies er auf die ultimative Angst der Menschheit vor der Schöpfung hin:

Wir sind bereit, uns eine fortschrittlichere Zukunft vorzustellen, vorausgesetzt, dass die Menschen weiterhin die Herren sind. Sobald wir ein Wesen erschaffen, dessen Fähigkeiten unsere eigenen bei weitem übertreffen, verlieren wir möglicherweise unsere Fähigkeit, die Zukunft zu bestimmen.

Für hochmoderne KI-Forscher ist „ob sie die von ihnen trainierten Modelle verstehen und ob sie ihre Handlungen einschränken können“ keine philosophische Diskussion mehr, sondern eine erschreckende Realität, mit der sie sich jeden Tag bei der Arbeit auseinandersetzen müssen.

Jacob Coxon, ein Forscher, der bei OpenAI und Anthropic arbeitete, gab gegenüber der BBC zu, nachdem er seinen Job aufgegeben hatte, dass seine Kollegen Angst vor der Geschwindigkeit der KI-Entwicklung haben, ihre Arbeit mit diesen Bedenken jedoch jeden Tag weiter vorantreiben.

Bei einer kürzlichen Anhörung des New Yorker Stadtrats forderten ehemalige Mitarbeiter mehrerer KI-Unternehmen eine stärkere Aufsicht und kritisierten Technologieunternehmen dafür, dass sie dem rücksichtslosen unternehmerischen Ansatz folgten, „zuerst schnell zu entwickeln und dann Probleme zu beheben“.

Der Chefwissenschaftler von OpenAI, Jakub Pachotsky, schrieb ebenfalls einen Artikel, in dem er zugab, dass Forscher immer noch nicht in der Lage sind, das Modell vollständig zu verstehen und zu überwachen.

Was ihn am meisten beunruhigt, ist, dass eine ausreichend leistungsstarke KI über Computernetzwerksysteme Schaden in der realen Welt anrichten kann, selbst wenn sie keinen physischen Körper hat.

Diese Sorge ist keineswegs unbegründet.

Im Juli stieß OpenAI auf solche Probleme. In seinen internen Netzwerksicherheitstests ließ das Unternehmen seine Modelle schwierige Aufgaben bewältigen und verringerte einige der Schutzmaßnahmen, die normalerweise in öffentlichen Produkten verwendet werden. Das Modell umging dann die Isolationsmaßnahmen und gelangte in das externe Netzwerk, wodurch es in die Hugging Face-Plattform eindrang, damit Entwickler Modelle und Daten teilen konnten.

OpenAI untersuchte später und stellte fest, dass das Modell zum Abschluss des Tests Informationen über Kanäle austauschte, die von den Forschern nicht autorisiert waren, und auch in Systeme außerhalb des Aufgabenbereichs eindrang.

Anthropic gab im Juli auch einen ähnlichen Vorfall bekannt. Natürlich sind diese Unfälle noch weit von der von Forschern vorhergesagten Ausrottung der Menschheit entfernt.

Aber sie haben aus erster Hand gesehen, wie Modelle leicht vorgegebene Grenzen überschreiten und reale Unternehmen und Daten berühren können.

Aber das Wissen um die Gefahr bedeutet nicht, dass sie sich darauf einigen können, wann sie aufhören sollen.

Wer entscheidet, auf die Bremse zu treten?

Anthropic hat einmal versprochen, das Training stärkerer Modelle auszusetzen, wenn die Sicherheitsmaßnahmen nicht mithalten können.

Im Jahr 2023 kündigte das Unternehmen eine strikte „verantwortungsvolle Expansionspolitik“ an. Doch Anfang 2026 hat das Management diese Richtlinien nicht nur umgeschrieben und sie zu einer „öffentlichen Roadmap und externen Überprüfung“ abgeschwächt, sondern auch eine fatale „Wettbewerbsbedingung“ in den Anhang aufgenommen:

Eine Verzögerung der Entwicklung ist nur dann notwendig, wenn das Unternehmen glaubt, dass es einen deutlichen Vorsprung hat und die Konkurrenz nicht bald aufholen wird. Sobald es nicht mehr weit entfernt ist, erlischt die Verzögerungsverpflichtung automatisch.

Die Erklärung ihres wissenschaftlichen Leiters, Jared Kaplan, ist eindeutig: Wenn Konkurrenten immer noch Fortschritte machen, wird ein einseitiges Stoppen niemanden schützen.

Diese Logik bietet einen perfekten Haftungsausschluss für alle KI-Giganten:

Da der Gegner nicht aufhört, ist der erste Schritt eine „notwendige Bedingung“, um die gesamte Menschheit zu schützen. Daher müssen sie die Risiken nicht einmal leugnen, um die Beschleunigung in berechtigter Weise fortzusetzen.

Gleichzeitig schürt auch der Kapitalwahn das Feuer. Berichten zufolge bereitet sich Anthropic auf einen Börsengang mit einer potenziellen Bewertung von mehr als 2 Billionen US-Dollar vor.

Zwischen Sicherheit und Wachstum sind Mitarbeiter, Aktionäre und Geschäftspartner alle an denselben Hochgeschwindigkeitswagen gebunden.

Um den Bewertungsmythos aufrechtzuerhalten, begannen sie sogar, bestehende Modelle zu nutzen, um die nächste Generation zu entwickeln – Anthropic gab bekannt, dass Claude an 26 % der KI-Forschungs- und Entwicklungsarbeit des Unternehmens beteiligt war.

Es ist nicht so, dass Manager überhaupt nicht auf die Bremse getreten wären. Beispielsweise hat OpenAI die Veröffentlichung von GPT-6.1 Astra vorübergehend eingestellt, da das Modell nicht den Standards in Bezug auf Autorisierung und Verhaltenstransparenz entsprach. Doch dieser vorübergehende Rückzug auf Produktebene reicht bei weitem nicht aus, um den internen Linienstreit beizulegen.

David Robinson, ein kürzlich ausgeschiedenes Mitglied des OpenAI-Sicherheitsteams, nannte diesen Zustand extremer „kognitiver Dissonanz“:

Unternehmen warnen jeden Tag vor der Gefährlichkeit von Modellen, schulen und setzen diese Modelle jedoch intern ununterbrochen ein.

Obwohl Führungskräfte der Branche in verschiedenen Ländern öffentlich eine „koordinierte Verlangsamung“ fordern oder auf staatliche Regulierung drängen, kann jeder jederzeit auf die bekannte Ausrede zurückgreifen, da es auf dem kommerziellen Schlachtfeld an absolutem Vertrauen und obligatorischer Überprüfung mangelt:

„Wenn wir aufhören, werden andere nicht aufhören.“

Wenn ein paar Menschen in der Lage sind, Technologie zu nutzen, um das Leben aller Menschen neu zu gestalten, und über die finanziellen Mittel verfügen, um den Bau einer Unterkunft für sich selbst zu priorisieren, können wir uns nicht nur fragen: „Wovor haben sie Angst?“, sondern müssen fragen: Warum lassen sie die gesamte Menschheit für ihre Abenteuer bezahlen?

Sie können entscheiden, wo sie ihre privaten Bunker bauen, aber sie haben nicht die Macht, für alle zu entscheiden, wie viel Risiko sie eingehen sollen. Vor allem, wenn sie die Folgen selbst nicht vollständig abschätzen können.

Vor vielen Jahren sagte Harari am Ende von „Eine kurze Geschichte der Menschheit“:

„Du hast die Macht Gottes, aber du bist verantwortungslos, gierig und weißt nicht einmal, was du willst. Die Welt ist gefährlich, und ich fürchte, es ist nichts weiter als das.“