Zusammenfassung:
Eine High School in Pennsylvania, USA, hat kürzlich beschlossen, ein Waffenerkennungssystem mithilfe künstlicher Intelligenz zu deaktivieren. Obwohl das System seit Monaten Daten sammelt und in Schulen trainiert, war es nicht in der Lage, zuverlässig zwischen Schusswaffen und alltäglichen Gegenständen zu unterscheiden, die Schüler täglich mit sich herumtragen, was häufig zu Fehlalarmen führte. Letztendlich kam die Schule zu dem Schluss, dass die Ausrüstung noch nicht den Standard für den tatsächlichen Gebrauch erreicht hatte.

Bei der beteiligten Schule handelt es sich um die Hempfield Area High School in Pennsylvania. Die Schule nahm an einem von CurvePoint durchgeführten Pilotprojekt teil, um ein Waffenerkennungssystem mit künstlicher Intelligenz namens Wi-AI zu testen. CurvePoint ist ein Start-up-Unternehmen der Carnegie Mellon University, das sich auf die Entwicklung von Technologien spezialisiert hat, die drahtlose Signale zur Sicherheitserkennung nutzen.
Wi-AI unterscheidet sich von herkömmlichen Metalldetektoren darin, dass die Schüler ihre Habseligkeiten nicht in das Tablett legen müssen und auch nicht auf Kameras angewiesen sind, um Ziele zu identifizieren. Stattdessen nutzt es WLAN-Funksignale, um die Form und Eigenschaften von Menschen und deren Habseligkeiten zu bestimmen.
Das System installiert kleine Sensoren namens SensePods in der Nähe des Schuleingangs. Wenn sich eine Person dem Sensor nähert, misst das Gerät die Veränderungen der Radiowellen, die auf der Oberfläche des menschlichen Körpers und von Gegenständen reflektiert werden. Anschließend analysiert die Software diese Signale, um nach Merkmalen zu suchen, die versteckten Waffen ähneln. Sobald ein verdächtiges Ziel entdeckt wird, kann das System das Schulpersonal per SMS, E-Mail oder über das Verwaltungskontrollfeld alarmieren.
CurvePoint sagte, dass das System keine Kameras benötigt und den Personenstrom und die Gebäudebelegung analysieren kann, ohne personenbezogene Daten zu speichern.
Hempfield-Schulen begannen im vergangenen Schuljahr mit der Teilnahme an den Tests. Sensoren, die in der Nähe des Eingangs installiert sind, sammeln kontinuierlich Daten, wenn Schüler vorbeikommen, und selbst nachdem Schüler das Gebäude betreten haben, sammelt das System weiterhin Daten, um das Erkennungsmodell zu verbessern.
Die tatsächlichen Testergebnisse waren jedoch nicht ideal. Das System identifiziert häufig von Schülern mitgeführte Gegenstände als potenzielle Waffen, darunter Ordner, Metallwasserflaschen und Powerbanks. Aufgrund der großen Vielfalt an elektronischen Geräten und anderen Gegenständen, die Schüler täglich mit sich führen, ist es für Systeme schwierig, genau zwischen wirklich gefährlichen Gegenständen und gewöhnlichen Utensilien zu unterscheiden.
Die Schule hatte ursprünglich gehofft, dass das Modell irgendwann eine Erkennungsgenauigkeit von 95 % erreichen würde. Erst nach Erreichen dieses Standards wäre es möglich, es als zentrales Sicherheitserkennungssystem der Schule einzusetzen. Doch Dr. Mark Holtzman, Superintendent des Schulbezirks Hempfield, gab zu, dass das System noch weit vom 95-Prozent-Ziel entfernt sei.
Das Problem besteht laut Holtzman nicht darin, dass das System überhaupt nichts erkennen kann, sondern darin, dass es zu viele Fehlalarme gibt, um den tatsächlichen Einsatzanforderungen gerecht zu werden. Er wies darauf hin, dass Umweltfaktoren und Probleme bei der Datenübertragung die Stabilität und Konsistenz des Systems beeinträchtigt haben.
Skip Smith, Mitbegründer und CEO von CurvePoint, sagte, Hempfield sei eher ein Test- und Evaluierungsstandort für die Schulsicherheitstechnologie des Unternehmens als ein formeller Einsatzort gewesen.
Smith räumte ein, dass Tests dem Unternehmen geholfen haben, die Leistung des Systems zu verstehen und gleichzeitig Umweltprobleme aufzudecken, die sich auf Zuverlässigkeit und Konsistenz auswirken. Er sagte, das Unternehmen werde die Technologie weiter entwickeln und evaluieren, unterstütze jedoch derzeit keine formelle Betriebsbereitstellung und habe keinen festen Zeitplan für die Wiederinbetriebnahme.
Da das Pilotprojekt letztendlich nicht in die volle Betriebsphase gelangte, wird die vorherige Zahlung der Schule für die Detektionsausrüstung zurückerstattet. Holtzman sagte, dass die Schule weiterhin bereit sei, auch in Zukunft eine Testumgebung für CurvePoint bereitzustellen. Wenn das Unternehmen Campus-Einrichtungen für weitere Schulungen nutzen muss, können beide Parteien weiterhin zusammenarbeiten.
Nach der Abschaffung von Wi-AI wird die Hempfield High School weiterhin das OpenGate-Waffenerkennungssystem verwenden, das seit vielen Jahren im Einsatz ist. Die Schule sagte, dass sie derzeit mit dem Betrieb dieser traditionellen Ausrüstung recht zufrieden sei.
Dies ist nicht das erste Mal, dass das Sicherheitssystem des KI-Campus eine ernsthafte Fehleinschätzung vorgenommen hat. Im Jahr 2025 ereignete sich ein ähnlicher Vorfall an der Kenwood High School im Baltimore County, Maryland, USA. Ein 16-jähriger Schüler wurde von der Polizei umzingelt und mit Handschellen gefesselt, nachdem ein KI-System, das eine Schulüberwachungskamera betrieb, eine Tüte Doritos in seiner Hand mit einer Waffe verwechselte.
KI-Waffenerkennungstechnologie hat in den letzten Jahren die Aufmerksamkeit amerikanischer Schulen und lokaler Regierungen auf sich gezogen. Einige Systeme versuchen, mithilfe künstlicher Intelligenz, drahtloser Sensoren und elektromagnetischer Erkennungstechnologie potenzielle Gefahren zu erkennen, ohne dass die Schüler ihre Habseligkeiten herausnehmen müssen. Im tatsächlichen Einsatz ist das Gleichgewicht zwischen Fehlalarmrate, Erkennungsempfindlichkeit und komplexer Campusumgebung jedoch immer noch ein schwieriges Problem.
Die Testergebnisse von Hempfield zeigen auch, dass die gute Leistung des KI-Systems in einem Labor oder einer begrenzten Umgebung nicht bedeutet, dass es sich direkt an komplexe Szenarien anpassen kann, in denen Hunderte oder sogar Tausende von Studenten täglich verschiedene Gegenstände auf den Campus und wieder hinaustragen. Bei Geräten, die an der Sicherheit des Campus beteiligt sind, erhöhen zu viele Fehlalarme nicht nur die Belastung des Personals, sondern können auch dazu führen, dass echte Alarme in einer großen Anzahl ungültiger Eingabeaufforderungen untergehen.
Kommentare