Laut Nachrichten vom 7. Juni wurden mehrere Polizeikräfte in England und Wales aufgefordert, den Einsatz von KI-Tools zur Erstellung von Gerichtserklärungen und Strafrechtsdokumenten einzustellen, da Fehler in der entsprechenden Ausgabe die Zuverlässigkeit nachfolgender Gerichtsverfahren beeinträchtigen würden. Laut einem Bericht der Financial Times vom 5. Juni wurde der Antrag von Alex Murray gestellt, dem Leiter der KI-Arbeit bei der britischen Polizei.
Murray ist außerdem Direktor der National Crime Agency und Leiter der KI-Angelegenheiten beim National Police Chiefs Council (NPCC). Das Vereinigte Königreich hat gerade im Januar dieses Jahres angekündigt, dass es 115 Millionen Pfund in den Bau eines nationalen Polizei-KI-Zentrums investieren wird, um den einheitlicheren Einsatz von KI durch die 43 Polizeikräfte in England und Wales zu fördern.
Gerichtsmaterialien können sich nicht ausschließlich auf eine „Überprüfung vor der Einreichung“ verlassen.
Was dieses Mal gestoppt wird, sind Materialien, die in den Strafprozess gelangen würden, darunter Gerichtserklärungen und zugehörige Falldokumente. Für Polizeibeamte scheinen KI-geschriebene Berichte Zeit zu sparen; Für Zeugen, Angeklagte und Staatsanwälte besteht das Problem jedoch darin, dass diese Worte zur Grundlage für die Beurteilung werden können, ob die Fakten und Verfahren des Falles übereinstimmen.
Wenn KI nicht vorhandene Fakten, verwirrende Zeitpläne oder fehlerhafte Zusammenfassungen in Materialien schreibt und nachfolgende Mitarbeiter dieses Material verwenden, um den Fall zu organisieren, Beweiserklärungen vorzubereiten oder sie dem Gericht vorzulegen, ist der Fehler nicht mehr nur ein „falscher Satz“, sondern kann sich entlang der Fallbearbeitungskette ausbreiten. Auch die sogenannte „Überprüfung der KI-Ausgabe“ in einem solchen Szenario lässt sich nur schwer mit einer einzigen Eingabeaufforderung lösen: Soll der Prüfer jeden Fakt und jedes Zitat überprüfen oder nur beurteilen, ob der Text glatt ist? Wenn die Antwort lautet, alles noch einmal zu machen, wird die durch die KI eingesparte Zeit ausgeglichen.
Der britische Crown Prosecution Service (CPS) hat eine KI-Ethikerklärung herausgegeben, in der er betont, dass KI-Tools unter menschlicher Aufsicht eingesetzt werden sollten, mit besonderem Schwerpunkt auf Fairness, Transparenz und Rechenschaftspflicht. Sobald jedoch Dokumente der Polizei an vorderster Front Eingang in ein Strafverfahren finden, sind die Grenzen der Verantwortung sensibler als in gewöhnlichen Büroumgebungen: Es müssen klare Aufzeichnungen darüber geführt werden, wer die Materialien verfasst, wer sie überprüft hat und wer für die Fehler verantwortlich ist.
Das fiktive Fußballspiel im Januar dieses Jahres hat Alarm geschlagen
Die britische Polizei ist hinsichtlich der Risiken von KI-Dokumenten vorsichtiger geworden, was nicht ohne Beispiel ist. Im Januar dieses Jahres entschuldigte sich der ehemalige Polizeichef der West Midlands, Craig Guildford, beim Innenausschuss des britischen Parlaments für ein Geheimdienstmaterial, das einen KI-Fehler enthielt.
In diesem Material wurde erwähnt, dass Fans des israelischen Maccabi Tel Aviv Football Club (Maccabi Tel Aviv) Konflikte mit der Premier League West Ham United hatten, das entsprechende Spiel jedoch nicht existierte. Der Guardian berichtete, dass Guildford zugab, dass der Fehler auf fiktive Inhalte zurückzuführen sei, die von der Polizei mithilfe von Microsoft Copilot erstellt wurden.
Dieser Vorfall zeigte, dass es für externe Leser schwierig ist, anhand des Textes zu beurteilen, welcher Inhalt ursprünglich überprüft wurde und welcher nur eine sekundäre Darstellung nach der Generierung des Modells darstellt, wenn KI-generierte Inhalte in formelle Strafverfolgungs- oder öffentliche Entscheidungsdokumente aufgenommen werden. Wenn es um Gerichtsunterlagen geht, wirkt sich diese Undurchsichtigkeit direkt auf die Rechte der Parteien und die Glaubwürdigkeit des Falles aus.
Befürworter der KI-Polizei übernehmen die Führung bei der Entfernung der sensibelsten Links
Die britische Regierung kündigte im Januar dieses Jahres das Police AI Centre mit dem Ziel an, die Einrichtung eines einheitlichen Test-, Schulungs- und Managementmechanismus zu beschleunigen. Das NPCC sagte damals, dass die Investition in Höhe von 115 Millionen Pfund der Polizei dabei helfen würde, Verbrechen schneller aufzuklären, und voraussichtlich etwa 6 Millionen Polizeistunden pro Jahr freisetzen würde, was der Arbeitsbelastung von etwa 3.000 Vollzeit-Polizisten entspricht.
Daher ähnelt diese Aussetzung eher einer Grenzziehung für die KI-Überwachung: KI kann zunächst für Back-End-Arbeiten eingesetzt werden, die risikoarm, nachvollziehbar und leicht zu überprüfen sind, wie z. B. Datendesensibilisierung, vorläufige Überprüfung von Nicht-Notfallalarmen und interne Informationssortierung; Gerichtsaussagen und strafrechtliche Dokumente stellen jedoch risikoreiche Verbindungen dar und können nicht nur durch „Menschen sind letztendlich verantwortlich“ abgedeckt werden.
Wenn Sie Zeuge, Reporter, Verdächtiger oder Angeklagter in einem Fall sind, sollten die Aussagematerialien, mit denen Sie konfrontiert werden, von jemandem stammen, der zur Rechenschaft gezogen werden kann, und nicht aus einer Reihe von KI-Texten, deren Generierungsprozess sich im Nachhinein nur schwer wiederherstellen lässt. Für die Polizei ist es natürlich wichtig, beim Verfassen von Berichten Zeit zu sparen, aber nicht auf Kosten der Glaubwürdigkeit der Gerichtsunterlagen.
Die Aussetzung des Vereinigten Königreichs wird dieses Mal kein Einzelfall sein. In den letzten zwei Jahren gab es Fälle in den USA, Kanada, Australien und anderen Ländern, in denen Anwälte Fälle künstlicher KI anführten und Gerichte Richtlinien für den Einsatz von KI erließen. Jetzt ist das Risiko gestiegen, dass Anwälte Dokumente an die zugrunde liegenden Fallakten der Polizei weiterleiten. Die eigentliche Schwierigkeit beim Einzug von KI in das Justizsystem liegt nicht in der Qualität der Textgenerierung, sondern darin, ob jede Aussage, die die Rechte anderer beeinträchtigen könnte, überprüft, nachverfolgt und zur Rechenschaft gezogen werden kann.