Ein künstliche Intelligenz (KI)-gestütztes Waffenerkennungssystem hat einen Schüler außerhalb der Kenwood High School fälschlicherweise als bewaffnet eingestuft, was zu seiner Festnahme führte. Der Vorfall ereignete sich, als der Schüler nach dem Fußballtraining eine Chipstüte in seiner Tasche trug. Die Technologie, die zur Erkennung potenzieller Waffen eingesetzt wird, löste einen Fehlalarm aus, der die Polizei auf den Plan rief.

Wichtige Erkenntnisse

Ein KI-System zur Waffenerkennung hat eine Chipstüte mit einer Waffe verwechselt.
Ein Schüler wurde daraufhin von der Polizei festgenommen und gefesselt.
Die Schule und die Polizei untersuchen den Vorfall und bieten psychologische Betreuung an.
Der Hersteller der KI-Software hat sich zu internen Schulverfahren nicht geäußert.

Der Vorfall

Der 16-jährige Taki Allen saß am Montagabend nach dem Fußballtraining mit Freunden vor der Kenwood High School, als er eine Tüte Doritos aß. Nachdem er die Tüte zerknüllt und in seine Tasche gesteckt hatte, tauchten etwa 20 Minuten später mehrere Polizeifahrzeuge auf. Die Beamten forderten Allen auf, sich auf den Boden zu legen und fesselten ihn, da das KI-System eine Waffe erkannt hatte.

Allen erklärte, dass die Polizei ihm ein Bild gezeigt habe, das die KI ausgelöst habe. Es zeigte, wie er die Chipstüte mit zwei Händen hielt, wobei ein Finger herausragte, was die Software angeblich als eine Waffe interpretierte.

Nach einer Durchsuchung stellten die Beamten fest, dass Allen keine Waffe bei sich trug. Die zerknüllte Chipstüte wurde auf dem Boden gefunden.

KI-Waffenerkennung an Schulen

Das betroffene KI-System wird seit dem letzten Jahr an High Schools im Baltimore County eingesetzt. Es nutzt vorhandene Überwachungskameras, um potenzielle Waffen zu identifizieren und alarmiert sofort das Sicherheitsteam der Schule und die Strafverfolgungsbehörden. Der Hersteller der Software, Omnilert, hat sich zu dem spezifischen Vorfall nicht geäußert, betonte jedoch, dass das System darauf ausgelegt sei, die Sicherheit durch schnelle menschliche Überprüfung zu priorisieren.

Reaktion und Folgen

Die Schulleitung bestätigte den Vorfall in einem Schreiben an die Eltern und erklärte, dass die ursprüngliche Warnung schnell überprüft und aufgehoben worden sei, nachdem keine Waffe gefunden wurde. Die Schule bietet betroffenen Schülern psychologische Betreuung an. Allen und seine Familie äußerten sich jedoch enttäuscht über die Reaktion der Schule und die aggressive Vorgehensweise der Polizei. Allen gab an, sich nach dem Vorfall unsicher zu fühlen und Angst zu haben, wieder zur Schule zu gehen.

Die Polizei von Baltimore County bestätigte den Einsatz und die Feststellung, dass keine Waffe vorhanden war. Sie verwies für weitere Fragen bezüglich Omnilert an das Schulsystem.