Laut Business Insider ist Anthropic-CEO Dario Amodei dafür bekannt, häufig vor den möglichen Risiken seiner eigenen KI-Produkte zu warnen, doch dies hat auch sein Unternehmen gekostet.In einem diesen Monat veröffentlichten Artikel warnte Amodei, dass die Macht der KI „unzweifelhaft geworden“ sei.. Als Beispiel nannte er Anthropics neuestes Modell Mythos, das „sehr reale Risiken“ für die Cybersicherheit, die Finanzindustrie, kritische Infrastrukturen und die nationale Sicherheit berge.
Amodei
Anschließend forderte er die US-Regierung auf, stärkere Interventionsmaßnahmen zu ergreifen, um diesen Risiken zu begegnen. Doch am Freitag schien seine Warnung nach hinten loszugehen: Die US-Regierung verhängte plötzlich Exportkontrollen für das neueste Modell von Anthropic.
Anthropic gab an, den Zugriff auf Mythos 5 und Fable 5 gesperrt zu haben, nachdem die Trump-Regierung angeordnet hatte, ausländischen Benutzern den Zugriff auf die Modelle zu verweigern. Der Chief Information Officer des Pentagon brachte in einem Beitrag auf der X-Plattform seine Unterstützung für den Schritt zum Ausdruck und schrieb: „Manche Dinge sind wichtiger als Umsatzzyklen, Hype und Bewertungen vor dem Börsengang.“
Diese plötzliche Entwicklung hat die gesamte Technologiebranche in Panik versetzt. Gary Marcus, ein KI-Forscher und bekannter Skeptiker, bezeichnete den Schritt der Trump-Regierung als „eine krasse Überreaktion und kontraproduktiv“.
Yang Likun sagte, Amodei erntete die Konsequenzen
„KI-Pate“ Yann LeCunn gab jedoch Amodei die Schuld. „Amodei hat lächerlichen Alarmismus über das Mythos/Fable-Modell (und den gesamten KI-Bereich) verbreitet, und jetzt hat es sich endlich ausgezahlt“, sagte Yang Likun. „Sie werden ernten, was Sie säen.“
Lange Warnung vor KI-Risiken
Amodei versucht seit langem, sich als „vernünftiger Erwachsener“ in der KI-Branche darzustellen.Er war ein integraler Forscher bei OpenAI, bis er das Unternehmen verließ und Anthropic gründete, weil er befürchtete, dass OpenAI-CEO Sam Altman der Geschwindigkeit von Produktveröffentlichungen Vorrang einräumte, statt deren Sicherheit zu gewährleisten.
Seitdem hat er eine Reihe von Erklärungen abgegeben, in denen er sagte, dass das, was er und OpenAI, Google, Meta, Amazon und andere Unternehmen entwickeln und der Öffentlichkeit zugänglich machen, die Lebensweise, mit der die Menschen vertraut sind, grundlegend verändern könnte. Diese Auswirkungen können sowohl positiv als auch negativ sein.
Amodei hat davor gewarnt, dass KI die Hälfte der Einstiegsjobs im Büro eliminieren und die Arbeitslosigkeit auf ein Niveau ansteigen lassen könnte, das seit der COVID-19-Pandemie nicht mehr erreicht wurde, und möglicherweise sogar den Arbeitslosigkeitsschock der globalen Finanzkrise von 2008 (Große Rezession) wiederholen könnte.
Während Amodei in den letzten Wochen im Zuge der Vorbereitungen von Anthropic auf den Börsengang seine Meinung zu den Auswirkungen von KI auf Arbeitsplätze abgeschwächt hat, blieben er und Anthropic in ihren Warnungen vor anderen Sicherheitsrisiken uneingeschränkt.
„Cybersicherheitsrisiken, die von Modellen auf Mythos-Ebene ausgehen, werden nicht die letzten Risiken sein, denen wir uns stellen müssen“, sagte er in einem im Juni veröffentlichten Artikel. „Ich denke, dass Biosicherheitsrisiken bald folgen könnten und ernstere Risiken für die KI-Autonomie nicht allzu weit entfernt sein werden.“
Er sagte auch, dass das derzeitige Maß an Besorgnis und Bewusstsein der Gesetzgeber in Bezug auf KI nicht mehr mit der rasanten Entwicklung der KI-Technologie Schritt halten könne.
Anfang dieses Monats forderte Anthropic in einem Papier ein Moratorium für die Entwicklung hochmoderner KI-Modelle und warnte davor, dass die neuesten Modelle der Selbstverbesserung immer näher kämen, was „das Risiko erhöhen könnte, dass Menschen die Kontrolle über KI-Systeme verlieren“.
„Wir glauben, dass es eine gute Sache wäre, wenn sich die Welt dafür entscheiden könnte, die Entwicklung modernster KI zu verlangsamen oder vorübergehend zu unterbrechen, damit die Forschung zu Sozialstruktur und Ausrichtung mit dem technologischen Fortschritt Schritt halten kann.“ Anthropic sagte.
Ironischerweise wurde dieser „Pause-Knopf“ letzten Freitag endlich gedrückt, aber das Ziel wurde Anthropic selbst.