Das erste von den Vereinten Nationen eingerichtete unabhängige wissenschaftliche Expertengremium für künstliche Intelligenz veröffentlichte einen vorläufigen Bewertungsbericht, in dem es heißt, dass die rasante Entwicklung der künstlichen Intelligenz (KI) enorme potenzielle Vorteile für Länder und Menschen auf der ganzen Welt mit sich bringt, aber auch mit großen Risiken verbunden ist. Dieser Bericht wird den Regierungen beim ersten Global Artificial Intelligence Governance Dialogue der Vereinten Nationen vom 6. bis 7. Juli in Genf vorgelegt. Es handelt sich um die erste unabhängige wissenschaftliche Bewertung künstlicher Intelligenz auf globaler Ebene. Eine vollständige und umfassende Version wird voraussichtlich nächstes Jahr veröffentlicht.
Der Bericht wurde gemeinsam von 40 führenden Wissenschaftlern und Experten aus allen Regionen der Welt verfasst, die jeweils für einen Zeitraum von drei Jahren beteiligt waren und nicht direkt an eine Regierung, Behörde oder ein Unternehmen gebunden waren, und zielte darauf ab, Entscheidungsträgern unabhängige wissenschaftliche Erkenntnisse zu liefern. Der Bericht weist darauf hin, dass politische Entscheidungsträger vor dem Hintergrund der rasanten Entwicklung der Fähigkeiten der künstlichen Intelligenz dringend eine verlässliche wissenschaftliche Grundlage benötigen, um regulatorische Rahmenbedingungen zu formulieren. Allerdings ist das aktuelle Verständnis einiger hochautonomer Systeme in der Wissenschaft noch immer im Rückstand und die Anpassungsfähigkeit von Gesellschaft und Regierung ist offensichtlich unzureichend. Wirksame Instrumente zur Eindämmung dieser Art hochautonomer künstlicher Intelligenz sind noch begrenzt.
Yoshua Bengio, Co-Vorsitzender des Expertengremiums, betonte in dem Bericht, dass die wissenschaftlichen Beweise für „trügerisches Verhalten“ in der künstlichen Intelligenz zunehmen. Er wies darauf hin, dass die wissenschaftliche Forschung bei einer weiteren Verbesserung der Systemfähigkeiten nicht garantieren kann, dass künstliche Intelligenz keinen katastrophalen Schaden anrichtet – dieser Schaden kann durch das Verhalten des Systems selbst oder durch Benutzer mit böswilligen Motiven verursacht werden. Der Bericht kommt zu dem Schluss, dass „die potenziellen Vorteile der künstlichen Intelligenz enorm sind“, warnt jedoch davor, dass die negativen Auswirkungen der Technologie nicht ignoriert werden können, wenn es an angemessenen Einschränkungen und sorgfältiger Planung bei der schnellen Bereitstellung in großem Maßstab mangelt.
Der Bericht weist darauf hin, dass die rasante Förderung künstlicher Intelligenz soziale, wirtschaftliche und ökologische Systeme tiefgreifend verändert und auch die psychische Gesundheit der Nutzer vor Herausforderungen stellt. Positiv zu vermerken ist, dass Anwendungen künstlicher Intelligenz in vielen Bereichen wie Bildung, medizinischer Versorgung, wissenschaftlicher Forschung und industrieller Produktion die Fähigkeit bewiesen haben, die Effizienz zu verbessern und neue Werte zu schaffen. Auf der negativen Seite warnt der Bericht jedoch davor, dass KI als destruktives Werkzeug oder zur Untergrabung des öffentlichen Vertrauens, des sozialen Zusammenhalts und der demokratischen Beratung (deliberative Diskussion) durch Manipulation von Informationen und Emotionen eingesetzt werden könnte.
Laut dieser vorläufigen Einschätzung nutzen mehr als eine Milliarde Menschen auf der ganzen Welt jede Woche Konversations-KI, doch der Grad der Anwendung ist in den einzelnen Ländern und Branchen sehr unterschiedlich, wobei Entwicklungsländer im Allgemeinen in Bezug auf Zugang und Nutzung im Rückstand sind. In Bezug auf die Konzentration der Rechenleistung besagen die im Bericht zitierten Daten, dass unter den 500 größten Supercomputern mit künstlicher Intelligenz weltweit etwa 75 % der Rechenleistung auf die Vereinigten Staaten und etwa 15 % auf China entfallen, was unterstreicht, dass die derzeitige Infrastruktur für künstliche Intelligenz stark auf einige wenige Volkswirtschaften konzentriert ist.
Der Bericht machte auch auf das gravierende Ungleichgewicht auf sprachlicher Ebene aufmerksam. Es gibt mehr als 7.000 Sprachen auf der Welt, aber aktuelle Mainstream-Modelle der künstlichen Intelligenz decken im Training nur einen sehr kleinen Teil davon ab. Bei vielen Sprachen sind Probleme mit der Qualität der maschinellen Übersetzung im Vordergrund, und Fehler beeinträchtigen nicht nur die tägliche Kommunikation, sondern können auch schwerwiegende Folgen in Situationen haben, in denen die persönliche Sicherheit besonders wichtig ist, etwa bei medizinischen Diagnosen und Behandlungsentscheidungen.
Das Expertengremium wies darauf hin, dass die Risiken, die die Verbreitung künstlicher Intelligenz mit sich bringt, in vielen Bereichen sichtbar werden. Dazu gehören potenzielle negative Auswirkungen auf Menschenrechte, soziale Systeme und die natürliche Umwelt, wie etwa die zunehmende Häufigkeit von durch künstliche Intelligenz erzeugten Darstellungen von sexuellem Kindesmissbrauch und von Inhalten mit sexueller Gewalt, die mithilfe von Deepfake-Technologie im Internet umgesetzt werden. Der Bericht geht davon aus, dass damit verbundene Phänomene offensichtliche Mängel bei der Inhaltsüberwachung, der Strafjustiz und der transnationalen Zusammenarbeit aufgedeckt haben und es dringend notwendig ist, die Reaktionen auf technischer und institutioneller Ebene gleichzeitig zu verstärken.
In Bezug auf das Informationsumfeld warnt der Bericht, dass künstliche Intelligenz die Schwelle für die Produktion in großem Maßstab und die gezielte Verbreitung „überzeugender Inhalte“ deutlich gesenkt habe. Dieser Trend könnte zu einer fortschreitenden Erosion der Informationsintegrität führen und dadurch das Vertrauen der Öffentlichkeit in Medien und Institutionen untergraben, den sozialen Zusammenhalt untergraben und die Beratungsmechanismen demokratischer Prozesse beeinträchtigen, die auf Fakten und begründeten Debatten beruhen. Experten sind der Ansicht, dass angesichts solcher Veränderungen die traditionellen Informationssicherheits- und Medienregulierungsrahmen unzureichend geworden sind und es notwendig ist, Governance-Ideen zu aktualisieren und die internationale Koordination zu stärken.
Der Bericht wies auch darauf hin, dass die meisten Länder – darunter auch einige fortgeschrittene Volkswirtschaften – nicht in der Lage sind, technische Bewertungen der neuesten und leistungsstärksten Modelle der künstlichen Intelligenz durchzuführen, und dass es schwierig ist, über eine substanzielle technische Beteiligung zu verfügen, um Einfluss auf die globale Steuerung dieser Systeme zu nehmen. Diese Lücke in den technischen Fähigkeiten und Ressourcen hat die internationale Ungleichheit bei der Formulierung von Sicherheitsstandards für künstliche Intelligenz sowie der Risikoprävention und -kontrolle weiter verschärft. Die Expertengruppe forderte, einem breiteren Spektrum von Ländern dabei zu helfen, ihre Bewertungs- und Regulierungsfähigkeiten durch multilaterale Kooperationsmechanismen und Projekte zum Kapazitätsaufbau zu verbessern und so eine repräsentativere Stimme in der globalen Governance zu bilden.
Dieser vorläufige Bericht wird als zentrales Referenzdokument beim Global Artificial Intelligence Governance Dialogue der Vereinten Nationen für Regierungen und relevante internationale Organisationen dienen, um zukünftige Regulierungsrahmen und Kooperationswege zu diskutieren. Die Expertengruppe erklärte, sie plane, im nächsten Jahr weiterhin die neuesten wissenschaftlichen Forschungsergebnisse und praktischen Anwendungsfälle zu sammeln und auszuwerten, um eine detailliertere und systematischere Evidenzbasis für den vorgeschlagenen umfassenden Bericht bereitzustellen und alle Parteien bei der Suche nach einem stabileren Gleichgewicht zwischen Risikoprävention und -kontrolle und technologischer Innovation zu unterstützen.