Ein amerikanischer High-School-Schüler aß Kartoffelchips und wurde von der KI als Waffe erkannt, was acht Polizeiautos anzog.

Kürzlich ereignete sich in Baltimore County, Maryland, USA, ein ungeheuerlicher Vorfall:Ein örtliches KI-Waffenerkennungssystem identifizierte die Doritos-Cornflakes-Tüte eines 16-jährigen Schülers fälschlicherweise als Schusswaffe, was den Einsatz bewaffneter Polizisten zur Folge hatte.

Der Vorfall ereignete sich am 20. Oktober. Taki Allen, eine Schülerin der Kenwood High School, hatte gerade das Fußballtraining beendet und hielt sich mit Freunden außerhalb der Schule auf. Plötzlich beschleunigten mehrere Polizeiautos und die Polizei richtete Waffen auf sie.

Allen erinnerte sich: „Ungefähr acht Polizeiautos fuhren auf uns zu. Sie kamen mit gezogenen Waffen auf mich zu und schrien: ‚Auf den Boden!‘ und ich dachte: ‚Was ist los?‘“ Er beschrieb die damalige Angst:„Sie ließen mich niederknien, meine Hände waren auf dem Rücken gefesselt und mit Handschellen gefesselt. Dann durchsuchten sie mich und fanden nichts.“

Allen wurde von der Polizei mit vorgehaltener Waffe überwältigt, und die Polizei zeigte ihm später das von der KI abgefangene Bild, das den Alarm auslöste. Auf dem Bild wurde die zerknitterte Doritos-Tasche in seiner Tasche vom System fälschlicherweise für eine Waffe gehalten.

„Ich dachte hauptsächlich: ‚Werde ich sterben? Werden sie mich töten?‘ Sie zeigten mir das Bild und sagten, es sehe aus wie eine Waffe“, sagte Allen mit anhaltender Angst.

Das KI-System, das den Vorfall auslöste, stammt von Omnilert, einer im letzten Jahr von den Baltimore County Public Schools eingeführten Technologie, die vorhandenes Überwachungsmaterial in Echtzeit scannt und die Strafverfolgungsbehörden sofort alarmiert, wenn sie ein Objekt entdeckt, von dem sie glaubt, dass es sich um eine Waffe handelt.

Allen hielt eine Tüte Cornflakes in der Hand und seine entblößten Hände und ein Finger sahen aus, als hätte er eine Waffe in der Hand. Omnilert räumte ein, dass es sich um einen Fehlalarm handelte, argumentierte jedoch, dass das System „wie beabsichtigt funktionierte“ und darauf ausgelegt sei, „der Sicherheit durch schnelle manuelle Überprüfung Priorität einzuräumen“.