Laut dem Wall Street Journal forderte das KI-Startup Anthropic die weltweit führenden KI-Labore auf, eine Verlangsamung der Forschungs- und Entwicklungsgeschwindigkeit in Betracht zu ziehen, mit der Begründung, dass aktuelle KI-Systeme zu schnell voranschreiten und sich möglicherweise bald ohne menschliches Eingreifen selbst verbessern könnten, was große soziale Risiken mit sich bringe. Anthropic sagte am Donnerstag in einem Blogbeitrag, dass es „wahrscheinlich eine gute Sache“ wäre, wenn es das Tempo der globalen KI-Entwicklung verlangsamen könnte. Der Artikel enthüllte auch interne Daten von Anthropic und zeigte, wie schnell sich die Fähigkeiten seiner fortschrittlichsten KI-Modelle verbessert haben.
Dieser Artikel wurde vom Leiter der internen Forschung und Politik bei Anthropic verfasst. Darin heißt es:Die Modellentwicklung scheint sich in Richtung einer „rekursiven Selbstverbesserung“ zu bewegen, bei der KI-Systeme sich ohne menschliches Eingreifen selbst verbessern können.Einige in der KI-Branche sehen diese Schwelle als Zeichen potenzieller Gefahr und großer sozialer Unruhen.
„Wir glauben, dass es eine gute Sache wäre, wenn sich die Welt dafür entscheiden könnte, die Entwicklung modernster KI zu verlangsamen oder vorübergehend anzuhalten, damit die Forschung zu Sozialstruktur und Ausrichtung mit dem technologischen Fortschritt Schritt halten kann“, schreiben die Autoren Marina Favaro und Jack Clark. Der Artikel schlägt eine globale Vereinbarung darüber vor, wie die Entwicklung von KI verlangsamt werden könnte, sowie einen Überprüfungsmechanismus, um zu überprüfen, ob Wettbewerber sich an die Vereinbarung halten.
Der Artikel warnt davor, dass eine rekursive Selbstverbesserung noch nicht stattgefunden hat und auch nicht unvermeidlich ist, „aber sie könnte früher eintreten, als die meisten Organisationen dazu bereit sind.“
Anthropics Blog
Anthropic hat kürzlich eine Finanzierungsrunde abgeschlossen, bei der das Unternehmen einen Wert von fast 1 Billion US-Dollar hat, und hat vertrauliche Dokumente eingereicht, um mit dem Börsengang seiner Aktien zu beginnen. Das Unternehmen hat sich kürzlich als Spitzenreiter im harten Wettbewerb mit OpenAI um die KI-Vorherrschaft erwiesen. Es wird erwartet, dass OpenAI auch bald IPO-bezogene Dokumente einreichen wird.
Das Unternehmen legt seit seiner Gründung großen Wert auf die KI-Sicherheit, wird jedoch seit langem von der Außenwelt kritisiert, da es der Ansicht ist, dass sein politischer Vorschlag tatsächlich ein Versuch ist, den Fortschritt der KI-Forschung und -Entwicklung der Wettbewerber zu bremsen. David Sacks, Risikokapitalgeber und informeller Berater von Präsident Trump, hat der Führung von Anthropic vorgeworfen, eine „Regulatory Capture Agenda“ zu verfolgen, die Regulierung dazu nutzt, Konkurrenten zu unterdrücken.
In einem aktuellen Podcast sagte Sacks, dass diese „Regulatory Capture Agenda“ in Washington letztendlich zu einem Verbot des sogenannten Open-Source-Modells führen könnte. These models are typically less expensive and easier for businesses and institutions to deploy and develop on their own.
Andere glauben, dass die Warnungen von Anthropic vor dem gefährlichen Potenzial der eigenen Tools auch als Marketingtrick angesehen werden könnten.Diese Skeptiker verweisen auf die Entscheidung von Anthropic, die Veröffentlichung seines leistungsstarken Cybersicherheitsmodells „Mythos“, das Schwachstellen und Probleme im Code finden kann, einzuschränken, als cleveren Werbetrick, um die Fähigkeiten seines Produkts anzupreisen.
In diesem Zusammenhang erklärte die Führung von Anthropic, dass das Unternehmen Fragen der KI-Sicherheit ernst nimmt und sich dafür einsetzt, eine stärkere gesellschaftliche Diskussion über damit verbundene Risiken zu fördern.