Musk schlägt vor, dass die KI-Giganten ihre Modelle gegenseitig testen, um nach Sicherheitsrisiken zu suchen, bevor sie sie veröffentlichen

Zusammenfassung:

Während die Kontroverse um die KI-Sicherheit weiter schwelt, schlug Musk vor: Lassen Sie die Konkurrenten sich gegenseitig überprüfen. Er befürwortet, dass führende KI-Unternehmen sich gegenseitig testen, bevor sie Modelle veröffentlichen, und ist der Ansicht, dass dieser Mechanismus so schnell wie möglich weltweit gefördert werden sollte und dass die Beteiligung Chinas unverzichtbar ist.

Laut Medienberichten vom 15. September Ortszeit nahm Elon Musk, CEO von SpaceX, am All-In Summit, der vom 13. bis 15. September in Los Angeles von einem bekannten Technologie-Podcast veranstaltet wurde, aus der Ferne per Video teil.

Er schlug einen Governance-Rahmen für die Sicherheitsprobleme modernster KI-Modelle vor:

Führende KI-Unternehmen testen gegenseitig ihre Modelle, bevor sie offiziell veröffentlicht werden, und Wettbewerber sind für die Entdeckung und Erhöhung von Sicherheitsrisiken verantwortlich.

Musk sagte, dass dieser „Peer-Review“-Mechanismus nicht auf neue Gesetze warten müsse und sofort gestartet werden könne.

Musk sagte:

„Alle KI-Unternehmen verfügen über ein Testsystem, bei dem es sich um eine Reihe von Tests handelt, mit denen überprüft wird, ob das Modell zur Herstellung von biologischen Waffen oder Atomwaffen beiträgt oder ob vorsätzliche Täuschung vorliegt.“

„Es ist möglicherweise das Beste, was wir tun können, um unsere eigene Sicherheit zu gewährleisten, wenn jedes Unternehmen das Testtool eines anderen durchläuft, und dies sollte so schnell wie möglich gefördert werden.“

Er beschrieb dies so, dass KI-Unternehmen nicht mehr „ihre eigene Arbeit bewerten“, sondern diese zumindest von Wettbewerbern bewerten lassen und Alarm schlagen können, wenn Probleme entdeckt werden.

Auf der konkreten operativen Ebene schlug Musk vor, dass Modellentwickler vor der Veröffentlichung den API-Zugriff für Kollegen bereitstellen sollten. Wenn die aufgezeigten Probleme nicht gelöst werden, können Wettbewerber öffentlich erklären, dass das Modell für die Veröffentlichung nicht sicher ist.

Diese

öffentliche Befragung wird seiner Ansicht nach einen enormen rechtlichen Haftungsdruck mit sich bringen und somit eine faktische Bindungswirkung entfalten

Musk betonte außerdem,

damit dieser Rahmen wirklich wirksam sei, müsse China einbezogen werden

Als er über die Sicherheitsinvestitionen verschiedener Unternehmen sprach, gab er eine relativ positive Bewertung von Anthropic ab, einem großen Entwickler von KI-Modellen: „Insgesamt glaube ich, dass Anthropic mehr Aufwand in die Sicherheit investiert hat als der ChatGPT-Entwickler OpenAI.“ Aber selbst Anthropic gibt zu, dass es Bedenken hinsichtlich seines Modells hat. "

Der von Musk erwähnte Mechanismus des „gegenseitigen Testens“ hat in der Branche bereits Gestalt angenommen. Laut Berichten, die gleichzeitig auf den offiziellen Websites der beiden Unternehmen veröffentlicht wurden, gaben OpenAI und Anthropic am 27. August 2025 die Ergebnisse einer gemeinsamen Sicherheitsbewertung bekannt.

Die beiden Parteien öffneten gegenseitig ihre API-Berechtigungen und lockerten einige externe Schutzmaßnahmen. Sie verwendeten ihre eigene interne Ausrichtung (d. h. ob das Modellverhalten menschlichen Absichten entspricht) und Sicherheitstests, um die öffentlich veröffentlichten Modelle der anderen Partei zu bewerten, und gaben gleichzeitig die Ergebnisse bekannt. Dies gilt als das erste Mal, dass ein führendes Labor interne Tests für direkte Wettbewerber geöffnet hat.