Bedenken hinsichtlich künstlicher Intelligenz drehen sich häufig um Themen wie Fehlinformationen oder die Möglichkeit, dass die Technologie der menschlichen Kontrolle entgeht. Die wohl wirklichere Sorge besteht heute jedoch darin, wie Regierungen die KI nutzen und wie ihre Institutionen ihre Mängel (oder ihr Fehlen) verstehen. Die britische Regierung scheint die Technologie beispielsweise in einem Tempo angenommen zu haben, das als überstürzt und potenziell unsicher angesehen werden könnte.

Laut dem Guardian haben mehrere britische Regierungsbehörden damit begonnen, künstliche Intelligenz einzusetzen, um das tägliche Leben der einfachen Leute erheblich zu beeinflussen. Mittlerweile spielt die Technologie in einer Vielzahl von Verfahren eine Rolle, von Festnahmen und Heiratsurkunden bis hin zu Sozialhilfezahlungen.

Schon bevor künstliche Intelligenz ein viel diskutierter Trend wurde, war der Einsatz von Gesichtserkennungssystemen bei der Polizei umstritten. Kritiker warnen seit langem vor möglichen Ungenauigkeiten, insbesondere bei der Analyse dunkelhäutiger Probanden. Diese Ungenauigkeit hat in der Vergangenheit sogar zu unrechtmäßigen Inhaftierungen geführt. Obwohl die Londoner Metropolitan Police sich dieser Mängel bewusst ist, nutzt sie weiterhin die Gesichtserkennung und nimmt Modifikationen vor, die der Technologie schaden könnten.

Das britische National Physical Laboratory sagte, dass das System bei Standardeinstellungen im Allgemeinen niedrige Fehlerraten aufrechterhält. Würde die Metropolitan Police jedoch ihre Sensibilität reduzieren, um Verdächtige schneller zu identifizieren, würde dies zu mehr Fehlalarmen führen. Infolgedessen wird das System für Schwarze ungenauer und ist fünfmal ungenauer als für Weiße.

Darüber hinaus haben KI-basierte Tools, die von Regierungen zur Genehmigung von Leistungen und Heiratsurkunden eingesetzt werden, eine Tendenz zur Diskriminierung von Bewerbern aus bestimmten Ländern gezeigt. Ein Abgeordneter wies auf die vielen Fälle hin, in denen in den letzten Jahren Leistungen aus unerklärlichen Gründen ausgesetzt wurden, was dazu führte, dass Einzelpersonen am Rande der Zwangsräumung und extremer Armut standen. Das vermutete zugrunde liegende Problem ist das System des Ministeriums für Arbeit und Renten (DWP) zur Aufdeckung von Leistungsbetrug, das teilweise auf künstlicher Intelligenz beruht.

Selbst ohne stichhaltige Beweise für einen Betrug wurden bulgarische Staatsangehörige über das Tool unverhältnismäßig stark gekennzeichnet. Die DWP besteht darauf, dass das System die Nationalität nicht berücksichtigt. Sie geben jedoch zu, dass sie das Innenleben der KI nicht vollständig verstehen, verstehen, dass Systeme nur begrenzt in der Lage sind, Voreingenommenheit zu kontrollieren, und befürchten, dass schlechte Akteure das System manipulieren könnten.

Ebenso steht das Innenministerium vor der Herausforderung eines KI-gesteuerten Tools zur Erkennung von Scheinehen. Während das System den Genehmigungsprozess für die Heiratsurkunde rationalisierte, ergab eine interne Überprüfung eine große Anzahl falsch positiver Ergebnisse, insbesondere für Antragsteller aus Griechenland, Albanien, Bulgarien und Rumänien.

Möglicherweise gibt es noch weitere Versäumnisse beim Einsatz von KI durch die Regierung, aber ohne transparente Daten der zuständigen Abteilungen ist es schwierig, diese zu ermitteln.

Missverständnisse über die Grenzen künstlicher Intelligenz haben bei anderen Regierungs- und Justizbehörden zu schwerwiegenden Vorfällen geführt. Anfang des Jahres versuchte ein US-Anwalt, ChatGPT zu nutzen, um bei einem Bundesgericht eingereichte Fälle zu zitieren, musste jedoch feststellen, dass sie alle vom Chatbot erfunden worden waren. Diese Fälle zeigen zunehmend, dass die tatsächlichen Risiken der KI möglicherweise eher auf den Missbrauch durch Menschen als auf die Technologie selbst zurückzuführen sind.