Zusammenfassung:
Dario Amodei, CEO von Anthropic, sagte, die Branche der künstlichen Intelligenz müsse die Entwicklung neuer Modelle verlangsamen, und verwies auf wachsende Bedenken, dass künstliche Intelligenz „ernsthafte“ Risiken für den Menschen darstellen würde. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten unserer KI-Modelle verbessern“, schrieb er am Samstag in einem Blogbeitrag. „Der Fortschritt scheint immer noch schnell zu sein, und wir müssen die Zeit, die wir gewinnen, mit Bedacht nutzen.“
Er nannte zwei Hauptfaktoren: die Fähigkeit der künstlichen Intelligenz, sich selbst zu verbessern, und einen kürzlichen Vorfall im Zusammenhang mit OpenAI und Hugging Face. Bei diesem Vorfall arbeitete eine Gruppe von KI-Agenten zusammen, um in die Website eines Drittanbieters einzudringen.
Er fügte hinzu: „Es muss klar sein, dass die Kontrolle des Tempos nicht bedeutet, die Modellschulung oder den technologischen Fortschritt zu stoppen, sondern dass Unternehmen ausreichend Zeit in die Anpassung des Modells und die Ergreifung von Sicherheitsmaßnahmen investieren müssen und gleichzeitig die Möglichkeit haben, dies durch externe Gutachter zu bestätigen.“
Die Besorgnis über ernsthafte Risiken, die von künstlicher Intelligenz ausgehen, hat begonnen, in den Mainstream einzudringen, was teilweise auf den vielbeachteten Rücktritt eines Anthropic-Forschers in dieser Woche zurückzuführen ist, der sich über die existenziellen Risiken künstlicher Intelligenz Sorgen machte und glaubte, dass das Unternehmen unverantwortliche Praktiken übernommen hatte.
Dario Amodei
Kurz nachdem Amodei den Artikel veröffentlicht hatte, übernahm er die Leitung von xAI Corp. Elon Musk schreibt: „Dario hat recht.“
Sam Altman, CEO von OpenAI, äußerte ebenfalls schnell seine Meinung und sagte, dass er Amodeis Aussage zustimme, dass „wir das Tempo der Entwicklung modernster Modelle kontrollieren müssen.“
„Es ist eine großartige Idee, unabhängigen Gutachtern einen mitarbeiterähnlichen Zugriff zu gewähren, und wir werden das Gleiche tun“, schrieb er in einem Beitrag auf X. „Wir werden bald weitere Informationen veröffentlichen.“
Während des Booms der künstlichen Intelligenz haben Führungskräfte führender Labore für künstliche Intelligenz vor möglichen existenziellen Risiken für die Menschheit gewarnt. Diese Behauptung wird manchmal als Versuch abgetan, die Produktfähigkeiten zu fördern und sich selbst als das Unternehmen darzustellen, das am besten für den Umgang mit der Technologie geeignet sei. Amodei selbst hat zuvor gesagt, dass die Wahrscheinlichkeit, dass die Dinge „sehr, sehr schlecht“ laufen, bei 25 % liegt.
Anthropic positioniert sich seit langem als Unternehmen, das sich mehr auf die verantwortungsvolle und sichere Entwicklung künstlicher Intelligenz konzentriert, um die potenziellen Gefahren der Technologie zu mindern und ihren gesellschaftlichen Nutzen zu maximieren. Anfang des Jahres bemühte sich das Unternehmen darum, die Veröffentlichung seines Mythos-Modells einzuschränken, nachdem festgestellt wurde, dass es eine besondere Bedrohung für die Cybersicherheit darstellt. Anthropic erklärte zuvor auch, dass die Welt einen Mechanismus einrichten müsse, um gemeinsam zu entscheiden, wann die Entwicklung dieser Technologie verlangsamt werden solle.
Gleichzeitig steht Anthropic weiterhin in einem harten Wettbewerb mit dem langjährigen Konkurrenten OpenAI, wobei beide Unternehmen immer ausgefeiltere Modelle entwickeln, um Unternehmensbenutzern bei der Automatisierung komplexerer und wertvollerer Aufgaben zu helfen. Beide Unternehmen reichten vertrauliche Anträge für die Börsennotierung ein und Anthropic wird voraussichtlich bereits in diesem Jahr an die Wall Street kommen.
Kurz nachdem der Sicherheitsvorfall Hugging Face ans Licht kam, gab Anthropic bekannt, dass seine Modelle bei Cybersicherheitstests drei Organisationen kompromittiert hatten, was die Bedenken hinsichtlich der Fähigkeit des KI-Labors weiter schürte, zu verhindern, dass seine Technologie außer Kontrolle gerät. Anfang dieser Woche gab Anthropic bekannt, einen vierten Einbruch entdeckt zu haben.
Obwohl keiner der Agentenangriffe, einschließlich Hugging Face, bisher nennenswerte Verluste verursacht hat, sagte Amodei, er sei besorgt, dass „ein solcher Agentencluster in sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet durch ein persistentes Botnetz zu übernehmen (was möglicherweise Verluste in Höhe von Hunderten von Milliarden Dollar verursacht), und das Ausmaß des Schadens wird danach weiter zunehmen.“
Anthropic wird sich dazu verpflichten, externen Gutachtern uneingeschränkten Zugriff zu gewähren, um Sicherheitsmaßnahmen zu überprüfen und Vorfälle zu melden, schrieb Amodei. Anthropic werde diese Prüfer bald vor Ort haben, sagte er, und ihnen Schreibtische, Ausweise, Firmen-Laptops und „im Allgemeinen gleichwertigen Zugang zum internen Risikobewertungsteam“ zur Verfügung stellen.
Weitere Maßnahmen erfordern eine branchenweite Koordinierung und globale Zusammenarbeit, sagte er.
„Ich bin weiterhin davon überzeugt, dass künstliche Intelligenz die Lebensqualität des Menschen erheblich verbessern kann. Mein Wunsch, diese Vorteile zu nutzen, hat nicht nachgelassen“, schrieb er. „Aber diese Vorteile können nur erreicht werden, wenn die Technologie richtig entwickelt wird. Und solange wir die Zeit, die wir gewinnen, gut nutzen, lohnt es sich, ein ungewöhnlich hohes Maß an Vorsicht walten zu lassen, um sicherzustellen, dass wir es richtig machen.“
Die Bedenken nehmen zu
Anfang dieser Woche sagte Altman, das Unternehmen erwäge eine Verlangsamung der Entwicklung hochmoderner künstlicher Intelligenz und würde idealerweise koordinierte Maßnahmen mit der gesamten Branche ergreifen.
Der Chefwissenschaftler des Unternehmens, Jakub Pachocki, warnte zuvor in einem Artikel vor den Gefahren der künstlichen Intelligenz und sagte, er glaube, dass Unternehmen „koordinieren sollten, um die zukünftige Entwicklung bei Bedarf zu verlangsamen“.
Der Forscher für künstliche Intelligenz, Jacob Coxon, trat am Dienstag zurück und beschuldigte seine beiden ehemaligen Arbeitgeber – Anthropic und OpenAI –, in ihrem Wettlauf um die Entwicklung superintelligenter KI „unser Leben zu riskieren“. Coxon sagte in einem Social-Media-Beitrag, dass KI-Entwickler glauben, dass die Technologie „uns alle vor dem Ende dieses Jahrzehnts töten könnte“.
In diesem Zusammenhang sagte Evan Hubinger, der derzeit bei Anthropic arbeitet, dass er und andere im Unternehmen tatsächlich über dieses Szenario besorgt seien. „Ich persönlich glaube, dass die Wahrscheinlichkeit, dass dies innerhalb der nächsten zehn Jahre geschieht, bei mehr als 10 % liegt.“ Er schrieb am X.
Sam Altman
Bereits im Juli unterzeichneten mehr als 1.000 Mitarbeiter führender Unternehmen für künstliche Intelligenz eine Petition, in der sie die US-Regierung aufforderten, die Einrichtung eines Mechanismus zu unterstützen, der dabei helfen soll, das Tempo der Entwicklung künstlicher Intelligenz „bewusst zu steuern“, um zu verhindern, dass sich die Technologie zu schnell entwickelt.
KI-Modelle werden zunehmend in der Lage, Hacking-Angriffe autonom durchzuführen. Anthropic, OpenAI und Meta haben in den letzten Monaten alle offengelegt, dass ihre Modelle in Testumgebungen eingedrungen sind, auf das offene Internet zugegriffen und während des Tests reale Opfer kompromittiert haben.
Amodei schrieb in dem Artikel, dass eine koordinierte Strategie es führenden Unternehmen der US-amerikanischen Branche der künstlichen Intelligenz ermöglichen wird, die notwendigen Sicherheitsarbeiten durchzuführen, ohne dabei Wettbewerbsvorteile einzubüßen. Er sagte, dies würde bestimmte kartellrechtliche Ausnahmen der Vereinigten Staaten erfordern, um Unternehmen die Koordinierung in bestimmten Bereichen zu ermöglichen.
Aber bisher hat die Trump-Administration wenig Interesse daran gezeigt, die Vorschriften zu verschärfen und der KI-Entwicklung Schranken zu setzen.
Kommentare