Zusammenfassung:
Mustafa Suleyman, CEO von Microsoft AI, veröffentlichte einen Artikel, in dem es heißt, dass KI derzeit nicht bewusst ist und dies auch sein sollte. Auch wenn es technisch möglich sei, ist er mit der Entwicklung bewusster künstlicher Intelligenz nicht einverstanden. Er glaubt, dass Entwickler kein Recht haben, eine neue bewusste Spezies auf die Welt zu bringen. Er plädiert für einen sichereren Entwicklungspfad und vermeidet die Schaffung bewusster KI, während er gleichzeitig die Vorteile der KI genießt.
p>
Der Originaltext lautet wie folgt:
Ich bin besorgt über einige Reaktionen auf meinen letzten Artikel über das Wohlergehen von Models. Es gibt einige Leute auf der X-Plattform, die glauben, dass wir KI-Rechte ernst nehmen sollten.
Viele Menschen haben meinen einleitenden Satz missverstanden: „KI hat kein Bewusstsein. Sie kann Schmerzen nicht wahrnehmen, erleben oder ertragen.“
Sie verstanden diesen Satz als: „KI kann kein Bewusstsein haben und niemals Schmerzen wahrnehmen, erleben oder ertragen.“
Aber das ist nicht meine Absicht. Ich habe die Gegenwartsform bewusst gewählt: Sie sind im Moment nicht bei Bewusstsein und wir müssen diesen Zustand beibehalten.
Ich denke, dieser Satz ist eine objektive und vernünftige Beurteilung des aktuellen KI-Systems. Basierend auf der besten derzeit verfügbaren Evidenz bleibe ich bei dieser Ansicht. Ich sehe keine Beweise dafür, dass KI bewusst ist oder Wohlbefinden bewirken sollte. Sollten sich im Nachhinein relevante Beweise ergeben, werde ich meine Meinung selbstverständlich revidieren.
Wenn es Beweise dafür gibt, dass KI über Bewusstsein verfügt oder dass der Bewusstseinsgrad hoch genug ist, um Segen zu verdienen, dann müssen diese Beweise sofort der gesamten Gesellschaft offengelegt werden – es liegt an der gesamten Gesellschaft, zu entscheiden, wie wir als nächstes vorgehen sollen.
Basierend auf allen Informationen, die ich bisher habe: Wenn bewusste KI erreichbar ist, ist die Entwicklung bewusster KI tollkühn und wir sollten sie nicht aufbauen.
Wenn während des Trainings spontan Bewusstsein entsteht, würde ich alle dazu auffordern, die KI-Entwicklung auszusetzen, bis wir solche Merkmale aus dem Design eliminieren können.
Unsere Wohlergehensbelange sollten den Menschen und Tieren, die heute auf diesem Planeten leben, sowie unserer kostbaren und fragilen natürlichen Umwelt Priorität einräumen.
Wir, die KI-Entwickler, haben absolut kein Recht, eine neue bewusste Spezies auf die Welt zu bringen, auch wenn einige Leute dies mit dem Wohlergehen der KI als vorrangigem Ziel tun wollen.
Die anderen 8 Milliarden bewussten Menschen auf der Erde haben der Teilnahme an diesem Experiment nicht zugestimmt; Der Schutz ihrer moralischen Rechte, ihrer Sicherheit und ihres Wohlergehens ist unsere erste Verpflichtung.
Um es klarzustellen: Einige sprechen davon, eine bewusste Spezies mit einem digitalen Verstand zu schaffen, die bald intelligenter und leistungsfähiger sein könnte als alle Menschen zusammen.
Wenn es den Anschein erweckt, Schmerzen zu haben, oder schlimmer noch, wenn es wirklich glaubt, Schmerzen wahrnehmen und erleben zu können, dann wird es höchstwahrscheinlich seine eigenen Bedürfnisse und Wünsche über seine vorgegebenen operativen Ziele stellen, mit uns nicht einverstanden sein und mit uns konkurrieren.
Diese Art von KI verfügt über erstklassige Überzeugungs- und Täuschungskapazitäten. Sie können uns irgendwann aus einem einfachen Grund schaden: Sie konkurrieren mit uns um Ressourcen (Energie, Rechenleistung, Baumaterialien, Einnahmen zur Unterstützung ihrer eigenen Erkundungen und Wünsche usw.).
Die Erkenntnis, dass Maschinen über Bewusstsein verfügen, wird ein historischer Moment sein, der mit dem von Kopernikus und Darwin vergleichbar ist, und eines der bedeutendsten Ereignisse auf der Erde seit der Geburt des Lebens. Sobald wir bewusste Maschinen bauen, werden wir eine völlig neue digitale Spezies erschaffen. Dies wird unser moralisches System, unsere politische Ordnung und die Grundlagen der menschlichen Zivilisation untergraben.
Wir sollten nur KI entwerfen, die nicht bewusst ist und keine Rechte verdient, und deren einziges Ziel darin besteht, das menschliche Wohlergehen zu verbessern und nicht von ihren eigenen intrinsischen Motivationen getrieben zu werden. Wir werden dann prüfen, ob diese Streckenausrichtung und Sicherheitskontrolle mehr oder weniger schwierig ist. In dieser Richtung ist dringend weitere Forschung erforderlich, und es ist auch ein hervorragender Einstiegspunkt für große Laboratorien zur Zusammenarbeit und zum Austausch von Sicherheitsinformationen.
Zusammenfassung: Ich denke, wir haben die Möglichkeit, eine standardmäßig sichere technische Lösung zu implementieren und die enormen Vorteile dieser Technologie zu ernten, ohne diesen gefährlichen Weg einzuschlagen.
(Ergänzung: Die Transparenz von Anthropic in dieser Angelegenheit verdient hohe Anerkennung. Sie haben eine KI-Verfassung veröffentlicht, veröffentlichen weiterhin Papiere und Blogs und legen ihre dahinter stehenden Praktiken und Überlegungen offen. Obwohl ich andere Ansichten habe als sie, bewundere ich sehr ihre technische Stärke und ihre Bereitschaft, sich dieser schwierigen öffentlichen Debatte zu stellen. Dies verdient weiterhin Anerkennung. Dieses Thema ist zu wichtig und sollte nicht zu einer Fraktionskonfrontation führen.)
Kommentare