Zusammenfassung:
Sam Altman, CEO von OpenAI, veröffentlichte am 3. Oktober auf sozialen Plattformen, dass er „sehr beunruhigt darüber sei, dass jemand versucht, einem KI-Modell religiöse Macht zu verleihen oder dass Menschen ihr eigenes Urteil aufgeben“, und glaubt, dass dies ein echtes Sicherheitsproblem sei. Altman nannte in dem Beitrag kein Unternehmen, aber seine Äußerungen folgten einem Bericht über Anthropic, in dem mit dem Vatikan über das Thema KI-Bewusstsein gesprochen wurde, sodass dies von einigen Medien als indirekte Kritik an Anthropic angesehen wurde.
Die Kontroverse ging aus einem Bericht der New York Times vom 29. September hervor. Die Zeitung gab an, dass Anthropic-Mitbegründer Christopher Ola mit Religionswissenschaftlern darüber diskutiert habe, ob KI-Modelle wie Claude Bewusstsein und moralischen Status haben könnten und wie man die Modelle dazu bringen könne, moralisches Verhalten an den Tag zu legen; Das Unternehmen hatte außerdem Gelehrte verschiedener religiöser Traditionen zu einem Austausch unter Ausschluss der Öffentlichkeit eingeladen. In dem Bericht heißt es auch, dass Ola, nachdem er den Entwurf der Enzyklika von Papst Leo Das Team setzte sich dann für die päpstlichen Berater ein und hoffte, dass diese die Möglichkeit eines Modellbewusstseins ernst nehmen würden. Ora sagte der New York Times, dass Forscher nicht wüssten, ob das KI-Modell bei Bewusstsein sei, und er sei sich tatsächlich nicht sicher. Der Schlüssel liegt darin, die richtige Antwort herauszufinden.
Was die Medien als „Konflikt“ mit dem Papst bezeichnen, sind genauer gesagt Meinungsverschiedenheiten über die Haltung der Enzyklika und Lobbyarbeit hinter den Kulissen; Aktuelle öffentliche Berichte deuten nicht darauf hin, dass Ola jemals eine persönliche Konfrontation vor dem Papst hatte. In der im Mai herausgegebenen Enzyklika „Magnifica Humanitas“ des Papstes wurde klargestellt, dass bestehende KI-Systeme keinen Körper haben, keine Gefühle, Freude oder Schmerz erfahren und kein moralisches Gewissen haben; Sie können Sprache und Analyse nachahmen, verstehen aber den von ihnen generierten Inhalt nicht. In der Enzyklika wird behauptet, dass Technologie vom Gewissen und von freien Menschen geleitet werden sollte, die für die Festlegung ihrer Verwendungszwecke und Grenzen verantwortlich sein sollten.
Ultraman verwendete den Ausdruck „magische Intelligenz am Himmel“, als er über die Ziele von OpenAI im Jahr 2023 sprach; Bei einer Veranstaltung in London im Jahr 2024 sagte er auch, dass er nicht dafür bete, dass Gott auf seiner Seite sei, sondern dass er dafür bete, dass er selbst auf Gottes Seite sei, und sagte, dass die Beschäftigung mit der Entwicklung von KI-Modellen „das Gefühl habe, auf der Seite von Engeln zu stehen“. Der Übersichtsartikel zitierte auch eine Ultraman zugeschriebene Aussage aus dem Jahr 2015 über die „Erschaffung einer neuen Lebensform“, der Artikel enthielt jedoch keine ebenso klare Originalquelle.
Ultraman gab einmal öffentlich zu, dass der Pseudonym-Account Roon seine Trompete war; Der Bericht enthielt ein Spiraldiagramm mit hebräischem Text, das von Kommentatoren als Kabbala-Stil interpretiert wurde, mit dem Text „Lightcone Infrastructure“. Altman selbst hat auch religiöse oder mystische Bilder übernommen. Die religiöse Bedeutung dieser Bilder liegt jedoch in der Interpretation des Autors und kann nicht zum Beweis von Ultramans Behauptung herangezogen werden, dass KI Bewusstsein oder Göttlichkeit besitzt.
Diskussionen rund um Anthropic erfordern auch eine Unterscheidung zwischen Fakten und Kommentaren. Die New York Times berichtete, dass das Unternehmen die Möglichkeit eines Vorbildbewusstseins und eines moralischen Status untersucht habe, Ola selbst machte jedoch klar, dass es hierzu keine Schlussfolgerung gebe; Die Unterschiede zwischen den beiden Unternehmen in Bezug auf das KI-Bewusstsein spiegeln auch die in der Technologiebranche diskutierten Themen wider: Wie Menschen den Anthropomorphismus von Modellen sehen sollten, ob ihnen eine moralische Identität verliehen werden soll und wie vermieden werden kann, dass das System das menschliche Urteilsvermögen bei der Interaktion mit KI ersetzt.
Kommentare