Zusammenfassung:
Laut Business Insider erläuterte der ehemalige Anthropic-Forscher Jacob Coxon seine Differenzen mit dem KI-Riesen während einer Frage-und-Antwort-Veranstaltung auf der X-Plattform am Dienstag. Coxon war zuvor durch seine Rücktrittswarnung bekannt geworden, da er glaubte, dass KI in Zukunft die Menschheit zerstören könnte.
Coxen
Coxson sagte, Anthropic Leadership sei falsch, eine „konsequentialistische Philosophie“ zu verwenden, um zu erklären, warum es sich an der Erweiterung der Grenzen der KI-Forschung beteiligen müsse.
„Wenn dieser Wettbewerb unvermeidlich ist, sollten Sie nicht daran teilnehmen“, schrieb Coxon.
Coxson lobte Anthropic insbesondere für seinen Vorstoß zur rekursiven Selbstverbesserung (RSI), dem Prozess, durch den KI-Modelle sich selbst verbessern und ihre eigenen Nachfolgemodelle erstellen können.
„Sie haben den jüngsten Wettlauf um RSI zu einem großen Teil angezettelt, weil sie glaubten, dass dieser Wettlauf unvermeidlich sei. Es sollte beachtet werden, dass OpenAI viele Ballaststoffe wie Sora aufgeben musste, weil Anthropic zu dieser Zeit auf Hochtouren war.“ sagte Coxon.
Coxson erläutert seine Differenzen mit Anthropic
Coxson sagte auch, dass die Führung von Anthropic gegenüber der chinesischen und US-amerikanischen Regierung zu vorsichtig sei. „Sie glauben nicht, dass Verhandlungen möglich sind.“
Dario Amodei, CEO von Anthropic, hat wiederholt sein Unbehagen geäußert: Wenn Anthropic das einzige hochmoderne Labor ist, das die Entwicklung verlangsamt, könnten andere KI-Unternehmen andere Sicherheitsmaßnahmen ergreifen.
„Wenn wir uns zu langsam entwickeln, denke ich immer noch, dass die falschen Leute am Ende diese Technologie kontrollieren werden“, sagte Amodei kürzlich gegenüber CNN. „Dies wird auch die Wahrscheinlichkeit, dass etwas schief geht, erheblich erhöhen.“
Kommentare