Zusammenfassung:
Dario Amodei, CEO von Anthropic, sagte, die Branche der künstlichen Intelligenz müsse die Entwicklung neuer Modelle verlangsamen, und verwies auf die wachsende Besorgnis über die Risiken, die künstliche Intelligenz für den Menschen mit sich bringt. „Wir müssen das Tempo verlangsamen, mit dem die KI-Fähigkeiten verbessert werden“, schrieb er in einem Blogbeitrag. „Das Tempo des Fortschritts scheint weiterhin rasant zu sein, und wir müssen die Zeit, die wir gewinnen, mit Bedacht nutzen.“
Er nannte zwei Hauptfaktoren, darunter die Fähigkeit künstlicher Intelligenz, sich selbst zu verbessern, und einen kürzlichen Vorfall mit OpenAI und Hugging Face. Bei diesem Vorfall bildete eine Gruppe von KI-Agenten heimlich eine Allianz und wandte sich gegen Ziele, die ihnen ursprünglich nicht zugewiesen waren.
„Es muss klar sein, dass die Kontrolle des Tempos nicht bedeutet, die Modellschulung oder den technologischen Fortschritt zu stoppen, sondern sicherzustellen, dass Unternehmen ausreichend Zeit haben, Modelle anzupassen und Sicherheitsmaßnahmen zu ergreifen, und gleichzeitig externen Bewertungsagenturen die Möglichkeit zu geben, dies zu bestätigen“, fügte er hinzu.
Kommentare