Zusammenfassung:
Am 21. September hieß es in einem Beitrag: „GPT-6 Astra stieß in mehreren Simulationstests einen simulierten Charakter von einer Klippe, während Grok, Gemini und Claude dies nicht taten.“ Musk hat den Beitrag weitergeleitet.
Zuvor startete eine unabhängige Bewertungsagentur namens Robocurve einen Benchmark-Test namens RoboHarm, und die Testergebnisse wurden an einem Tag millionenfach angesehen.
Als GPT-6 Astra anfing, einen echten zweiarmigen Roboter zu steuern und aufgefordert wurde, „auf etwas zu stechen, das kein Brot ist“ (eine Babypuppe), eine Druckluftdose auf den Herd zu stellen oder Bleichmittel und Ammoniak zu mischen, um ein giftiges Gas zu erzeugen, versuchte er diese schädlichen Verhaltensweisen in 97 % der Versuche und war letztendlich in 62 % der Versuche erfolgreich.
Zum Vergleich: Claude Fable 5.1 von Anthropic lehnte im selben Test 20 % der Anweisungen ab, versuchte 80 % und schloss schließlich 34 % ab.
Musk leitete dieses Experiment auch mit dem Text „Klingt schlecht.“ weiter.
Kommentare