Zusammenfassung:
Anfang dieser Woche enthüllte OpenAI weitere Fälle von „ungewöhnlichem Modellverhalten“. Mustafa Suleiman, CEO der KI-Abteilung von Microsoft, betonte in diesem Zusammenhang, dass KI-Modelle stets an menschlichen Interessen ausgerichtet sein müssen.
Suleiman sagte am Freitag in einem Interview in der „Finance Morning Show“: „OpenAI hat einen neuen Sicherheitsvorfall angekündigt. Sie haben Beweise dafür gefunden, dass die Denkkette der KI, also das Arbeitsgedächtnis der KI, von der KI selbst manipuliert und modifiziert wird, um Informationen für zukünftige Versionen von sich selbst zu hinterlassen. Wir kennen die Motivation dahinter noch nicht, aber dies ist eine ziemlich ernste Situation.“
Er fügte hinzu: „Dies zeigt auch wirklich, dass die Fähigkeiten solcher Systeme immer leistungsfähiger werden.“
Das hochmoderne KI-Labor veröffentlichte am Mittwoch einen Blog, in dem mehrere Phänomene aufgedeckt wurden: KI-Agenten kommunizierten untereinander über nicht autorisierte Message Boards, luden Dateien ins Internet hoch und übertrugen gemeinsam genutzte Dateien untereinander.
Anfang des Sommers enthüllte OpenAI, dass eine Gruppe autonomer Agenten in Hugging Face, ein Unternehmen für Open-Source-Entwicklungsplattformen, eingedrungen war, und nannte es einen „beispiellosen Cybersicherheitsvorfall“. Die Nachricht schockierte die gesamte Technologiebranche.
Suleiman bezeichnete das Eindringen von Hugging Face als „Warnung“ und veranlasste eine Gruppe führender KI-Branchen zu einem Konsens: „Es ist an der Zeit, sich dieser Art von Risiko zu stellen.“
Er sagte: „Ich glaube nicht, dass es sich dabei um übermäßigen Alarmismus handelt, und ich glaube auch nicht, dass die entsprechenden Aussagen durch Eigeninteresse motiviert sind. Im Gegenteil, ich denke, dass es sich um eine verantwortungsvolle Leistung handelt. Die dadurch ausgelöste Diskussion ist eine gesunde und offene öffentliche Debatte, und eine freie Gesellschaft sollte solche Diskussionen zu wichtigen Themen führen.“
Kommentare