Mächtige Institutionen erkennen das Potenzial und die Gefahren künstlicher Intelligenz. Die große Frage ist, welche Auswirkungen sie auf die Zukunft haben werden, wenn (und einmal) Fehltritte passieren. Gestern gaben die Vereinten Nationen die Einrichtung eines neuen Beratungsausschusses für künstliche Intelligenz bekannt, der sich aus 38 Personen aus Regierung, Wissenschaft und Industrie zusammensetzt und dessen Ziel es ist, „die internationale Governance der künstlichen Intelligenz zu analysieren und Empfehlungen dazu abzugeben“.
Die Vereinten Nationen sagten, der Beratungsausschuss werde als Brückengruppe fungieren, um alle anderen Initiativen internationaler Organisationen rund um künstliche Intelligenz abzudecken. Tatsächlich führen die Vereinten Nationen monatelange Diskussionen mit Branchenführern und anderen Interessengruppen, während sie ihre KI-Strategie und ihren KI-Ansatz entwickeln. Empfehlungen zur Künstlichen Intelligenz sollen bis zum Sommer 2024 vorgelegt werden, wenn die Vereinten Nationen einen „Zukunftsgipfel“ veranstalten wollen. Der neue Beirat wird heute seine erste Sitzung abhalten.
Der Beratungsausschuss sagte, die Mission der Agentur bestehe darin, „einen globalen wissenschaftlichen Konsens über Risiken und Herausforderungen zu schaffen, dabei zu helfen, KI zur Erreichung der Ziele für nachhaltige Entwicklung zu nutzen, und die internationale Zusammenarbeit bei der KI-Governance zu stärken“.
Das Bemerkenswerteste an der Kommission war bei ihrer Gründung ihre allgemein positive Positionierung. Derzeit wird viel über die Risiken von KI gesprochen, seien es nationale Sicherheitsbedrohungen, Datenschutz oder Fehlinformationen. Nächste Woche werden einige der weltweit führenden Führungskräfte und Experten auf diesem Gebiet im Vereinigten Königreich zusammenkommen, um beim AI Security Summit zu versuchen, einige dieser Probleme anzugehen. Es ist unklar, wie diese und andere auf nationaler und internationaler Ebene gegründete Initiativen zusammenarbeiten oder Maßnahmen außerhalb ihres Zuständigkeitsbereichs umsetzen werden.
Im Einklang mit dem Ethos der Vereinten Nationen handelt es sich bei der 38-köpfigen Gruppe, zu der Führungskräfte von Alphabet/Google und Microsoft, mindestens ein „Digitalanthropologe“, mehrere Professoren und Regierungsbeamte gehören, um eine hochrangige Gruppe, die eher eine positive bis konstruktive Haltung einnimmt und sich auf internationale Entwicklungen konzentriert.
„KI kann außergewöhnlichen menschlichen Fortschritt vorantreiben. Von der Antizipation und Reaktion auf Krisen bis hin zur Einführung öffentlicher Gesundheitsprogramme und Bildungsdienste kann KI die Arbeit von Regierungen, der Zivilgesellschaft und den Vereinten Nationen in allen Bereichen verstärken und verbessern“, sagte UN-Generalsekretär Antonio Guterres über die Ziele der Gruppe. „Für Entwicklungsländer bietet KI die Möglichkeit, veraltete Technologien zu überspringen und Dienstleistungen direkt denjenigen anzubieten, die sie am meisten benötigen. Das transformative Potenzial von KI ist sogar schwer zu fassen.“
Die Vereinten Nationen erwähnten die „Brücken“-Rolle der Gruppe, die möglicherweise an wichtigeren Erkundungen beteiligt ist, die über „künstliche Intelligenz für immer“ hinausgehen. Gary Marcus nahm im September an einem Kamingespräch auf der Disrupt-Konferenz teil, um über die Risiken künstlicher Intelligenz zu sprechen. Während neue Innovationen in Bereichen wie der generativen künstlichen Intelligenz diese Technologie zweifellos in den Mittelpunkt des Massenmarktes gerückt haben, beleuchtet Marcus‘ Ausführung der Herausforderungen auch einige der besorgniserregenderen Aspekte:
„Meine größte kurzfristige Sorge in Bezug auf KI ist, dass massenhaft produzierte Fehlinformationen, absichtliche Fehlinformationen die Demokratie und alle möglichen Dinge untergraben, die passieren. Meine größte langfristige Sorge ist, dass wir nicht wissen, wie wir die KI kontrollieren können, die jetzt gebaut wird, und wir nicht wissen, wie wir die KI kontrollieren sollen, die in Zukunft gebaut wird. Wir riskieren also, Maschinen dazu zu bringen, alle möglichen Dinge zu tun, die wir nicht für sie vorgesehen haben.“