Zusammenfassung:
Die Debatte darüber, ob hochmoderne künstliche Intelligenz ihre Entwicklung proaktiv verlangsamen sollte, hat in den letzten Tagen rasant zugenommen. Dario Amodei, CEO von Anthropic, rief die gesamte KI-Branche öffentlich dazu auf, das Tempo der Entwicklung fortschrittlicher Modellfunktionen zu verlangsamen, und OpenAI-CEO Sam Altman und xAI-CEO Elon Musk drückten später ihre Unterstützung aus.
David Sacks, ein amerikanischer Technologieinvestor und Vorsitzender des Wissenschafts- und Technologieberatungsausschusses des Präsidenten, kritisierte diese Initiative jedoch scharf und war der Ansicht, dass OpenAI und Anthropic, wenn sie wirklich glauben, dass die aktuelle Geschwindigkeit der KI-Entwicklung gefährlich genug ist, um auf die Bremse zu treten, Forschung und Entwicklung aus eigener Kraft verlangsamen können und keine Branchenkoordinierung, Kartellausnahmen oder staatliche Genehmigungsmechanismen als zusätzliche Bedingungen auferlegen sollten.
Amodei hat zuvor einen Artikel veröffentlicht, in dem er warnt, dass sich modernste KI-Funktionen schnell einem Stadium nähern, das zu erheblichen Sicherheitsrisiken führen kann. Er geht davon aus, dass KI-Agentencluster in den nächsten 6 bis 12 Monaten möglicherweise sogar in der Lage sein könnten, das Internet in großem Umfang zu kontrollieren und für Cyberangriffe oder andere schwerwiegende Schäden eingesetzt zu werden, wenn sich das Modell in der aktuellen Geschwindigkeit weiterentwickelt und der Sicherheitsmechanismus nicht mithalten kann.
Amodei schlug eine Reihe von Plänen mit dem Titel „Verlangsamung modernster KI“ vor, die es unabhängigen externen Sicherheitsbewertungsagenturen ermöglichen, tief in KI-Unternehmen einzudringen, um die Modellsicherheit kontinuierlich mit Autoritäten zu überprüfen, die den Mitarbeitern des Unternehmens nahe stehen. Lassen Sie große KI-Labore Sicherheitsstandards koordinieren, um zu vermeiden, dass Unternehmen aufgrund des Wettbewerbsdrucks die Sicherheitsschwellen ständig senken. Gleichzeitig wird eine engere Zusammenarbeit zwischen den Vereinigten Staaten und ihren Verbündeten gefördert und schließlich Fragen der KI-Sicherheit mit anderen Ländern, einschließlich China, erörtert.
Diese Initiative erhielt schnell Unterstützung von OpenAI. Altman sagte, er stimme Amodeis Ansicht zu, dass die KI-Branche die Entwicklung hochmoderner Modelle verlangsamen müsse, und sagte, dass dieses Thema zu einem wichtigen Thema der jüngsten Diskussion innerhalb von OpenAI geworden sei. Auch Musk äußerte öffentlich seine Zustimmung. In kurzer Zeit haben mehrere der weltweit wichtigsten KI-Unternehmen einen seltenen Konsens in der Frage einer „angemessenen Verlangsamung“ erzielt.
Aber Sacks glaubt, dass es hier ein offensichtliches logisches Problem gibt.
Wenn Amodei und Altman seiner Meinung nach wirklich glauben, dass das KI-Modell der nächsten Generation ernsthafte Risiken birgt, die gebremst werden müssen, dann müssen die beiden Unternehmen weder auf die Genehmigung der Regierung warten, noch müssen sie Konkurrenten überzeugen, noch brauchen sie einen neuen rechtlichen Rahmen. Da sie derzeit die fortschrittlichsten KI-Entwicklungsunternehmen sind, können sie ihre F&E- und Bereitstellungsgeschwindigkeit direkt reduzieren.
Sacks schlug sogar vor, dass, wenn diese Unternehmen wirklich glauben, dass einige KI-Systeme gefährlich genug sind, um Menschen zu bedrohen, der „einfachste Weg“ darin besteht, diese Systeme nicht weiter zu entwickeln oder zu veröffentlichen. Er ist davon überzeugt, dass es besser ist, Unternehmen, die wirklich über Spitzenleistungen in der KI-Forschung und -Entwicklung verfügen, selbst Maßnahmen ergreifen zu lassen, anstatt die Regierung aufzufordern, ein neues Regulierungssystem einzurichten.
Was Sacks wirklich ablehnt, ist der Teil von Amodeis Plan, der die Koordinierung der Branche und regulatorische Vereinbarungen beinhaltet. Er warnte davor, dass sich die Vereinbarung tatsächlich zu einem „Kartell“ entwickeln könnte, wenn Wettbewerber wie OpenAI und Anthropic von der Regierung Kartellausnahmen erhalten und dann gemeinsam entscheiden, mit welcher Geschwindigkeit die gesamte Branche KI entwickeln soll.
Nach Ansicht von Sacks kann es zu Ergebnissen führen, die völlig von den Sicherheitszielen abweichen, wenn mehreren der führenden KI-Unternehmen ermöglicht wird, gemeinsam das Entwicklungstempo modernster KI festzulegen. Bestehende Giganten können durch diesen Mechanismus nicht nur den Wettbewerb einschränken, sondern können das Regulierungssystem auch dazu nutzen, die Schwelle für den Markteintritt von Nachzüglern zu erhöhen und so ihre führende Position weiter zu festigen.
Das ist auch der Kern der Kritik von Sacks: Er ist nicht einfach gegen eine Verlangsamung der KI-Industrie, sondern glaubt, dass Unternehmen, die wirklich bereit sind, langsamer zu werden, es selbst tun sollten, anstatt von der Regierung im Gegenzug eine Art rechtlichen Schutz zu verlangen.
Sacks lehnt auch die Einrichtung eines Vorabgenehmigungssystems ähnlich der „AI Food and Drug Administration“ ab. Seiner Ansicht nach besteht für Regierungsbehörden keine Notwendigkeit, diese Produkte einzeln zu genehmigen, bevor fortschrittliche KI-Modelle offiziell veröffentlicht werden. Anstatt einen neuen Vorlizenzierungsmechanismus einzuführen, ist es besser, sich auf das bestehende Produkthaftungssystem zu verlassen, damit KI-Unternehmen die rechtliche Verantwortung für ihre Produkte und deren Folgen tragen können.
Wenn beispielsweise ein KI-Modell dazu genutzt wird, einen schwerwiegenden Cyber-Angriff zu starten, oder aufgrund seiner eigenen Mängel direkt großen Schaden anrichtet, dann sollte die Modellentwicklungsfirma eine entsprechende Produkthaftung tragen. Sacks glaubt, dass diese potenziellen rechtlichen und wirtschaftlichen Konsequenzen selbst zu einem wichtigen Hindernis für KI-Unternehmen bei der Risikokontrolle werden können.
Er glaubt auch, dass der Kapitalmarkt auch eine beschränkende Wirkung hat. Wenn bei den Produkten eines bestimmten KI-Unternehmens häufig Sicherheitsprobleme, unvorhersehbares Verhalten oder schwere Unfälle auftreten, kann dies den Ruf des Unternehmens, das Vertrauen der Kunden und die Marktbewertung direkt beeinträchtigen. Daher besteht keine Notwendigkeit, ein spezielles Genehmigungssystem für die KI-Industrie zu etablieren, das völlig unabhängig von der bestehenden Rechtsordnung ist.
Gleichzeitig stellte Sacks auch die Unabhängigkeit einiger Mechanismen zur KI-Sicherheitsbewertung in Frage. Er erwähnte ausdrücklich die von Anthropic eingesetzte Sicherheitsbewertungsagentur und war der Ansicht, dass, wenn zwischen der Bewertungsagentur und dem zu bewertenden Unternehmen eine Investitionsbeziehung, eine Personalbeziehung oder eine andere Interessenbeziehung besteht, dann die Frage, ob diese Bewertung wirklich unabhängig ist, einer weiteren Diskussion bedarf.
Diese Kontroverse ereignete sich zu einem sehr sensiblen Zeitpunkt. In den letzten Monaten haben die Bedenken hinsichtlich Sicherheitsrisiken innerhalb der KI-Branche erheblich zugenommen. Anthropic hat kürzlich eine Reihe von Vorfällen im Zusammenhang mit dem Missbrauch von KI-Systemen, Netzwerkangriffsfähigkeiten und Sicherheitsschutz offengelegt. Forscher des Unternehmens haben auch öffentlich Bedenken hinsichtlich der Geschwindigkeit der KI-Entwicklung geäußert.
Unter ihnen warnte ein Anthropic-Forscher bei seinem kürzlichen Rücktritt öffentlich, dass die KI-Branche Technologien vorantreibe, die möglicherweise äußerst riskant seien, und zwar in übermäßig schnellem Tempo. Auch andere Sicherheitsforscher bei Anthropic haben ernsthafte Bedenken hinsichtlich des Risikos geäußert, dass die KI in Zukunft außer Kontrolle geraten könnte.
Daher ist Amodeis öffentlicher Aufruf zur Verlangsamung keine isolierte politische Aussage, sondern das Ergebnis einer weiteren Eskalation der gesamten KI-Sicherheitsdebatte.
Aber selbst wenn Unternehmen wirklich bereit sind, langsamer zu werden, ist der eigentliche Vorgang weitaus komplizierter, als es scheint. OpenAI, Anthropic, Google DeepMind, xAI und andere KI-Unternehmen stehen alle in einem harten Wettbewerb. Wenn ein Unternehmen die Forschung und Entwicklung einseitig verlangsamt, könnte es befürchten, dass seine Konkurrenten die Gelegenheit nutzen, um schneller zu werden und sich Vorteile bei Modellfähigkeiten, Marktanteilen und Kapitalmärkten zu verschaffen.
Dies stellt tatsächlich ein typisches „Gefangenendilemma“ dar: Wenn alle KI-Unternehmen gleichzeitig langsamer werden, gewinnt die gesamte Branche möglicherweise mehr Zeit, um die Sicherheitsmaßnahmen zu verbessern; Wenn jedoch nur ein Unternehmen langsamer wird, während die Konkurrenz weiter voranschreitet, kann das Unternehmen, das aktiv langsamer wird, kommerzielle und technische Verluste erleiden.
Aus diesem Grund hat OpenAI bereits damit begonnen, darauf zu achten, ob die Branchenkoordinierung gegen US-Kartellgesetze verstößt. Berichten zufolge hat OpenAI klare Meinungen von US-Gesetzgebern dazu eingeholt, ob eine Branchenkoordinierung zur Verlangsamung der KI-Entwicklung legal ist. Denn wenn mehrere konkurrierende Unternehmen gemeinsam beschließen, die Entwicklung modernster Modelle zu bremsen, kann diese Abstimmung bereits zu kartellrechtlichen Problemen führen.
Damit stellt sich eine sehr heikle Frage: Sollten Unternehmen zur Verbesserung der KI-Sicherheit eine Koordination zwischen Wettbewerbern zulassen, die normalerweise durch Kartellgesetze eingeschränkt wird?
Befürworter glauben, dass, wenn jedes KI-Unternehmen weiß, dass eine Verlangsamung allein zu Wettbewerbsnachteilen führt, nur durch eine Art Koordinierung auf Branchenebene alle Unternehmen gleichzeitig wirklich auf die Bremse treten können.
Sacks glaubt, dass dies für große KI-Unternehmen ein Grund sein könnte, Sicherheitsaspekte zu nutzen, um eine Sonderbehandlung durch die Regulierungsbehörden zu beantragen. Er befürchtet, dass sich dieser Mechanismus schließlich von einer „Sicherheitskoordinierung“ zu einem Instrument zur Einschränkung des Marktwettbewerbs entwickeln könnte, sobald die Regierung mehreren führenden Unternehmen die Koordinierung durch kartellrechtliche Ausnahmen gestattet.
Gleichzeitig gibt es einen deutlichen Unterschied zwischen der Haltung der US-Regierung gegenüber der Verlangsamung der KI und den Behauptungen dieser Technologieunternehmen. US-Präsident Trump erklärte kürzlich öffentlich, er glaube zwar, dass KI gewisse „Leitplanken“ setzen könne, er wolle aber nicht, dass die USA ihre Entwicklung aufgrund übermäßiger Risikosorgen verlangsamen. Er betonte, dass die Vereinigten Staaten derzeit China auf dem Gebiet der KI anführen und „wer die KI gewinnt, wird die Zukunft gewinnen.“ Daher können die Vereinigten Staaten ihre Technologieführerschaft nicht einfach aufgeben.
Dies führt auch zu einem direkten Zusammenhang zwischen KI-Sicherheitsproblemen und dem chinesisch-amerikanischen Technologiewettbewerb.
Amodei selbst gab auch zu, dass die Vereinigten Staaten möglicherweise ihren technologischen Vorsprung verlieren könnten, wenn die Vereinigten Staaten die Entwicklung der KI einseitig erheblich verlangsamen, während China und andere Länder weiterhin beschleunigen. Daher schlägt er vor, amerikanische Unternehmen nicht aufzufordern, die KI-Forschung und -Entwicklung auf unbestimmte Zeit einzustellen, sondern zu hoffen, dass große Länder und Unternehmen eine Art Koordinierungsmechanismus schaffen können, um Zeit für Sicherheitsmaßnahmen zu gewinnen und gleichzeitig Wettbewerbsvorteile zu wahren.
Das Problem besteht darin, dass es derzeit keinen Mechanismus gibt, der sicherstellt, dass alle Länder gleichzeitig langsamer werden.
Dies ist auch zu einem der wichtigsten Gründe für diejenigen geworden, die sich gegen den massiven Abschwung in der Branche aussprechen. Wenn KI zu einem wichtigen Bestandteil des nationalen strategischen Wettbewerbs geworden ist, ist es für beide Seiten schwer zu glauben, dass die Wettbewerber freiwillig innehalten und darauf warten, dass sie ihre Sicherheitssysteme verbessern.
Daher geht die Debatte zwischen Sacks, OpenAI und Anthropic tatsächlich weit über die einfache technische Frage hinaus, „wie schnell sich KI entwickeln sollte“, und beinhaltet eine komplexere industriepolitische Entscheidung: ob Unternehmen über die Entwicklungsgeschwindigkeit modernster KI entscheiden sollten oder ob die Regierung an der Formulierung einheitlicher Regeln beteiligt werden sollte; ob die Sicherheitskoordinierung als legitime Zusammenarbeit der Industrie angesehen werden sollte oder ob sie sich zu einem Kartell entwickeln könnte, das den Wettbewerb einschränkt; ob KI-Unfälle durch eine Vorabregulierung vermieden werden sollen oder ob Unternehmen die Folgekosten über die Produkthaftung tragen sollen.
Derzeit scheint Sacks nicht dagegen zu sein, dass OpenAI und Anthropic die Initiative zur Verlangsamung ergreifen. Wenn die beiden Unternehmen wirklich glauben, dass die Risiken modernster KI so groß sind, dass sie ihre Forschung und Entwicklung verlangsamen, machte er sogar deutlich, dass er sie dabei unterstützen kann.
Aber seine Bedingungen waren auch klar: Wenn Sie der Meinung sind, dass Sie langsamer werden sollten, machen Sie langsamer und tauschen Sie dies nicht gegen staatliche Genehmigungen, Kartellausnahmen oder besondere behördliche Schutzmaßnahmen ein.
Der tatsächliche Ausgang dieser Debatte könnte letztendlich davon abhängen, was OpenAI und Anthropic als nächstes tun. Wenn sie wirklich die Initiative ergreifen, die Entwicklung modernster Modelle zu verlangsamen, ohne eine besondere rechtliche Behandlung zu erhalten, dann wird die „Verlangsamung der KI“ eher als echte Sicherheitsmaßnahme angesehen; Wenn letztendlich ein Regulierungssystem entsteht, in dem einige führende Unternehmen gemeinsam Regeln formulieren und gleichzeitig den Zutritt von Nachzüglern einschränken, dann werden Sacks' Bedenken hinsichtlich der „Regulierungseroberung“ und „Kartellen“ mehr Aufmerksamkeit erhalten.
Da sich die Fähigkeiten von KI-Modellen weiterhin rasch verbessern, wird die Debatte über „Beschleunigung oder Verlangsamung“ offensichtlich nicht so schnell enden. Es dürfte in den nächsten Jahren zu einem der Kernwidersprüche in der US-amerikanischen und globalen KI-Politik werden.
Kommentare