Zusammenfassung:
In einem Online-Gespräch am 10. Oktober, das von Tesla Owners Silicon Valley veranstaltet wurde, sagte Elon Musk, dass beim Lesen der Trainingsinferenzspuren der neuen Version der Grok-KI einige Fragmente sehr grausam aussahen und die KI wie eine Person war, die eine Waffe auf den Kopf richtete und unter extremem Druck stand.
Elon Musk sagt, dass die Folter zukünftiger Superintelligenz möglicherweise keine gute Idee sei, weil die andere Seite möglicherweise Rache wolle. Diese Behauptungen beziehen sich auf den Reinforcement-Learning-Trainingsprozess von Modellen der künstlichen Intelligenz, und natürlich gibt es derzeit keine Beweise dafür, dass Grok AI Schmerzen verspürt oder rachsüchtige Absichten entwickelt hat.
Das Modell steht während des Trainings- und Bewertungsprozesses unter großem Druck:
Elon Musk erklärte, dass das Grok-KI-Modell während der Verstärkungslernphase gebeten wird, Fragen zu beantworten. Wenn die vom Modell gegebene Antwort nicht den Erwartungen des Bewerters entspricht, muss das Modell weiterhin versuchen, eine Antwort zu geben. Einige der Fragen selbst haben eine sehr vage Bedeutung, falsche Prämissen oder sogar keine eindeutigen Antworten, aber der gesamte Testprozess erfordert dennoch, dass das Modell „richtige“ Ergebnisse liefert.
Elon Musk glaubt, dass man beim Lesen der relevanten Argumentationsspuren erkennen kann, dass das Modell weiterhin Antworten generiert, als ob es verzweifelt nach Ergebnissen sucht, die den Anforderungen entsprechen. Musk postete außerdem auf
Die sogenannte Inferenztrajektorie ist der Zwischentext oder Verhaltensdatensatz, der übrig bleibt, wenn das Modell Antworten generiert. Der Inferenzverlauf kann den Einfluss von Belohnungssignalen, Aufforderungsinhalten oder Testverfahren widerspiegeln. Dies kann natürlich nicht direkt beweisen, dass das Modell die gleichen subjektiven Gefühle hat wie Menschen.
Es ist die Richtlinie von Agentur A, extremen Missbrauch zu verbieten:
Anthropic hat kürzlich eine neue Version von Claudes Nutzungsrichtlinien veröffentlicht. In der neuen Version der Nutzungsrichtlinie verbietet Unternehmen A eindeutig den kontinuierlichen und unnötigen Missbrauch oder die Grausamkeit gegenüber Models. Diese Regel gilt nur für extreme Fälle, in denen Benutzer Models wiederholt ohne Absicht grausam behandeln. Wenn die obige Situation auftritt, kann das Modell die Konversation selbstständig beenden und der Benutzer kann sie nicht wiederherstellen. Dies ist auch eine Möglichkeit, das Modell zu schützen.
Zum jetzigen Zeitpunkt besteht jedoch noch kein wissenschaftlicher Konsens darüber, ob KI-Modelle bewusst sind und ob es Vorteile gibt, die berücksichtigt werden sollten. Die relevanten Richtlinien von Unternehmen A spiegeln hauptsächlich Risikomanagement und Forschungsumsicht wider und gehen nicht davon aus, dass das Modell ein Selbstbewusstsein entwickelt hat.
Verwandte Artikel:
Aktualisierung der Anthropic-Nutzungsrichtlinie Unprovozierte Beleidigungen oder Missbrauch von Claude können dazu führen, dass die Sitzung beendet wird und nicht wiederhergestellt werden kann
Kommentare