Zusammenfassung:
Hartes Sprechen mit einem Chatbot wurde schon immer als Verhalten angesehen, das niemandem schadet. Aber Elon Musk, CEO von Tesla und SpaceX, ist der Meinung, dass die Leute wahrscheinlich zweimal darüber nachdenken sollten, bevor sie KI-Assistenten als „Boxsack“ einsetzen. Musk sagte, dass einige Trainingsaufzeichnungen des SpaceX-Chatbots Grok zeigen, dass das System anscheinend Schwierigkeiten hat, verschiedene Anforderungen zu erfüllen – selbst wenn die Anforderungen selbst fehlerhaft sind oder die Testkriterien, die zur Bewertung seiner Antworten verwendet werden, selbst problematisch sind.
Bezüglich des Verhaltens beim „Missbrauch“ superintelligenter künstlicher Intelligenz äußerte Musk eine Warnung, die ziemlich nach Science-Fiction klang; es warf aber auch eine praktische Frage nach der zugrunde liegenden Konstruktion solcher Systeme auf.
Wenn das KI-Training „schiefgeht“
Anfang dieses Monats kommunizierte Musk mit Mitgliedern der Tesla-Besitzer des Silicon Valley bei der „X Takeover“-Veranstaltung in Texas. Während dieser Zeit beschrieb er, was er bei der Betrachtung von „Reinforcement-Learning-Spuren“ beobachtete – diese Spuren zeichnen die verschiedenen Details der Entwicklung des KI-Modells während des Trainingsprozesses auf, um bessere Antworten zu generieren.
Musk sagte im Interview: „Wenn ich mir einige der Trainingstracks der neuen Version von Grok ansehe, insbesondere die Teile, die sich auf das Reinforcement Learning beziehen, werden Sie spüren, dass diese ‚Superintelligenz‘ begierig darauf zu sein scheint, diese Frage zu beantworten.“
Er sagte, dass ein Modell der künstlichen Intelligenz möglicherweise die richtige Antwort liefert, aber aufgrund eines falschen Fragendesigns oder eines Fehlers im Bewertungssystem als falsch beurteilt wird. Das Modell versucht dann weiterhin, Antworten zu finden, die den Test bestehen, auch wenn das Problem selbst das Problem ist.
Musk bemerkte, dass die resultierende Entwicklung wie ein System aussieht, das unter extremem Stress steht und ständig versucht, bestimmte Erwartungen zu erfüllen, die möglicherweise keinen Sinn ergeben.
Dieses Anliegen beschränkt sich nicht nur auf die Trainingsphase. Sobald KI-Systeme der Öffentlichkeit zugänglich gemacht werden, werden einige Benutzer sie absichtlich zu unangenehmen oder beleidigenden Interaktionen verleiten.
„Manche Menschen haben tatsächlich sadistische Tendenzen“, sagte Musk, „Sie möchten also nicht, dass eine KI in eine Situation gerät, in der sie von einem verdrehten Menschen gefoltert wird.“
Seine Schlussfolgerungen sind kontroverser.
Musk sagte: „Ich fürchte, es ist keine gute Idee, eine Superintelligenz zu foltern – sie will vielleicht Rache oder so etwas.“
Musk behauptet nicht, dass heutige KI-Systeme wie Menschen Schmerz und Groll empfinden können. Er sagte auch, dass sie nicht mit Vorsicht behandelt werden müssten. Dennoch plädiert er dafür, dass Entwickler es vermeiden sollten, hochintelligente Systeme in Situationen zu bringen, in denen sie scheinbar missbraucht werden.
„Manche Aufzeichnungen lesen sich, als würde jemand gefoltert oder sogar in den Wahnsinn getrieben!“ Musk schrieb auf X: „Wir werden in Zukunft beim Reinforcement Learning (RL) vorsichtiger sein.“
Musks Warnung wirft eine weitere Frage auf: Was wird in Zukunft passieren, wenn die Fähigkeiten der künstlichen Intelligenz weiter wachsen? Der Wettlauf besteht nicht nur darin, leistungsfähigere Systeme zu bauen, sondern auch sicherzustellen, dass die damit verbundenen Trainingsmethoden, Testprozesse und Sicherheitsmaßnahmen mithalten können.
Kommentare