Zusammenfassung:
Gegen einen hochrangigen britischen Polizisten wird von unabhängiger Seite ermittelt, weil er angeblich den künstlichen Intelligenzassistenten Copilot von Microsoft während einer strafrechtlichen Untersuchung missbräuchlich eingesetzt hat. Der Vorfall hat erneut Bedenken hinsichtlich der Grenzen der Anwendung künstlicher Intelligenz bei der Strafverfolgung und der Sicherheit sensibler Daten geweckt.
Nach Angaben des Independent Office for Police Conduct (IOPC) wird gegen den leitenden Polizeibeamten der Polizei von Derbyshire eine Untersuchung wegen mutmaßlichen schweren Fehlverhaltens eingeleitet. Die Untersuchung wurde im August dieses Jahres eingeleitet, nachdem die Polizei von Derbyshire am 23. Juni nach Abschluss einer internen Überprüfung freiwillig einen Lagebericht an die Aufsichtsbehörde übermittelt hatte.
Die Untersuchung geht über grundlegende Büroaufgaben wie den Einsatz künstlicher Intelligenz zur Überprüfung von Rechtschreibung und Grammatik hinaus. In den entsprechenden Anklagepunkten hieß es, dass der Polizeibeamte verdächtigt wurde, Microsoft Copilot genutzt zu haben, um an politischen Entscheidungen mitzuwirken, Risiken zu bewerten und zu managen, und KI eingesetzt zu haben, um bei der Untersuchung von Strafsachen Gründe und Entscheidungsgrundlagen bereitzustellen. Darüber hinaus wird ihm vorgeworfen, sensible betriebliche Informationen und personenbezogene Daten, die mit dem Fall in Zusammenhang stehen, in das System eingegeben zu haben.
Tatsächlich hat die Derbyshire Police Department Polizeibeamten bereits ab Mai 2025 die Nutzung von Microsoft Copilot genehmigt, um die Arbeitseffizienz zu verbessern. Der Umfang der Befugnisse umfasst hauptsächlich Verwaltungsangelegenheiten wie das Verfassen von Berichten, das Organisieren von Dokumenten und das Zusammenfassen von Informationen. Allerdings schreibt die Polizei auch klar vor, dass keine mobilen Daten, sensiblen Informationen und personenbezogenen Daten in KI-Tools eingegeben werden dürfen.
Emily Barry, Director of Engagement beim Independent Office for Police Conduct, sagte: „Diese Anschuldigungen sind schwerwiegender Natur und müssen einer umfassenden und unabhängigen Untersuchung unterzogen werden. Die Ermittler werden sich darauf konzentrieren, den Einsatz des Copiloten durch den Beamten von Mai 2025 bis Juni 2026 zu untersuchen und festzustellen, ob sein Verhalten gegen professionelle Standards der Polizeiarbeit verstößt.
Zum jetzigen Zeitpunkt hat der Polizeibeamte eine Ermittlungsmitteilung wegen des Verdachts schwerer Fahrlässigkeit erhalten, der Fall ist jedoch noch nicht abgeschlossen und die Ermittlungen dauern noch an.
Der Vorfall spiegelt auch wider, dass künstliche Intelligenz allmählich in die täglichen Arbeitsabläufe von Strafverfolgungsbehörden Einzug hält. Zuvor haben einige Polizeibehörden in den Vereinigten Staaten damit begonnen, das von Axon eingeführte Draft One-System zu übernehmen, das automatisch Polizeiberichtsentwürfe basierend auf den Aufzeichnungen von am Körper getragenen Kameras erstellen kann. Obwohl der endgültige Inhalt noch von Polizeibeamten überprüft und genehmigt werden muss, bestehen weiterhin Bedenken hinsichtlich der Fehlinformationen, die KI mit sich bringen könnte, und einer übermäßigen Abhängigkeit von automatisierten Tools.
Ähnliche Themen haben auch dieses Jahr Aufmerksamkeit erregt. Ein durch künstliche Intelligenz erstellter Polizeibericht in Utah, USA, ging schief. Das System identifizierte den Hintergrund-Audioinhalt fälschlicherweise und behauptete in dem Bericht tatsächlich, ein Polizist habe sich „in einen Frosch verwandelt“. Glücklicherweise wurde der Fehler vor der offiziellen Übermittlung der Meldung manuell entdeckt und behoben.
Gleichzeitig geht es in dem Fall um die Eingabe sensibler Daten in das KI-System, was auch an den Vorfall bei Samsung im Jahr 2023 erinnert. Damals übermittelten einige Mitarbeiter vertrauliche Programmcodes und Besprechungsinhalte zur Verarbeitung an ChatGPT, was bei Unternehmen weit verbreitete Bedenken hinsichtlich der Datensicherheitsrisiken generativer künstlicher Intelligenz auslöste.
Da immer mehr öffentliche Behörden damit beginnen, Assistenten mit künstlicher Intelligenz einzusetzen, könnte diese Untersuchung zu einem wichtigen Fall für das britische Strafverfolgungssystem werden, um die Normen des KI-Einsatzes zu bewerten. Es kann sich auch auf zukünftige Regulierungsrichtlinien und Anwendungsgrenzen künstlicher Intelligenz in der Polizeiarbeit auswirken.
Kommentare