Das Lawyers' Committee for Civil Rights Under Law reichte am 18. November 2026 im Namen von vier schwarzen aktuellen und ehemaligen Schülern der Kenwood High School in Baltimore County, Maryland, eine Klage ein, nachdem ein KI-Waffenerkennungssystem eine ihrer Chiptüten mit einer Schusswaffe verwechselt hatte und bewaffnete Polizisten die Teenager auf dem Campus festgenommen und durchsucht hatten.
Die beim Bezirksgericht für Baltimore County eingereichte Klage nennt als Beklagte Omnilert, LLC – den Hersteller des Omnilert Gun Detect-Systems, das an allen öffentlichen Schulen des Baltimore County eingesetzt wird – sowie die öffentlichen Schulen und das Personal des Baltimore County, die Polizeibehörde des Baltimore County und einzelne Beamte. Es werden Verstöße gegen die verfassungsmäßigen Rechte des Bundes und der Länder sowie Fahrlässigkeit und grobe Fahrlässigkeit der Studierenden geltend gemacht. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
Was im Oktober 2025 geschah
Nach Angaben des Anwaltsausschusses begann der Vorfall, als Omnilert Gun Detect – ein in den Schulen des Landkreises eingesetztes KI-Überwachungssystem – einen Alarm auslöste, der die Chipstüte eines Teenagers mit einer angegebenen Wahrscheinlichkeit von 90 Prozent als Schusswaffe identifizierte. Das System hatte eine Tüte Doritos, die einer der Schüler bei sich trug, fälschlicherweise für eine Waffe gehalten.
Der Fehlalarm löste eine Reaktion aus, die damit endete, dass bewaffnete örtliche Polizisten die Teenager auf dem Campus, nur wenige Schritte vom Eingang der Schule entfernt, überfielen. Die Studenten wurden auf die Knie gezwungen, mit Handschellen gefesselt und durchsucht, teilte die Organisation mit. Die New York Times, The Guardian, NBC News, CBS News und die Baltimore Sun berichteten alle über die Klage und den zugrunde liegenden Vorfall, der landesweite Aufmerksamkeit auf die KI-basierte Waffenerkennung in Schulen gelenkt hat.
„Die Polizei sagte meinem Sohn, dass dies ein echtes Problem gewesen sein könnte. Kein Kind in Baltimore County sollte einer solchen Gefahr ausgesetzt sein, während es vor seiner eigenen Schule auf die Heimfahrt seiner Mutter wartet“, sagte Freida Winfield, die auf dem Weg war, ihren Sohn Keith und die anderen Schüler abzuholen, als sie festgenommen wurden, heißt es in der Pressemitteilung.
Eine Kette menschlicher Fehler
Eine zentrale Behauptung der Klage ist, dass der Fehler der Technologie bei jedem weiteren Schritt durch die Menschen, die sie erhalten haben, noch verstärkt wurde. Das Anwaltskomitee sagt, dass alle, von den Mitarbeitern von Omnilert über den Schulleiter bis hin zu den Polizeibeamten des Baltimore County, die, wie sie es nennen, eindeutigen Beweise dafür, dass es keine Waffe gab, übersehen oder ignoriert haben.
In der Beschwerde wird außerdem behauptet, dass Schulbeamte vor dem Vorfall wussten, dass das Omnilert-System regelmäßig Fehlalarme auslöste – eine Behauptung, die im Falle eines Rechtsstreits den Kern der Abwägung der Zuverlässigkeit der Technologie gegenüber ihrem Einsatz in schülerbezogenen Kontexten durch den Landkreis treffen würde.
„Diese Schüler wurden nicht nur durch eine Technologie im Stich gelassen, die anfällig für Fehlalarme ist, sondern auch durch genau die Erwachsenen, die für ihre Sicherheit sorgen sollen, wenn wir sie zur Schule schicken“, sagte Damon Hewitt, Präsident und Geschäftsführer des Lawyers' Committee for Civil Rights Under Law. „Statt dieses Schutzes wurden sie mit Waffen konfrontiert und traumatisiert. Und es hätte noch schlimmer kommen können.“
Was die Klage anstrebt
Über den Schadensersatz hinaus nutzt das Anwaltskomitee den Fall, um auf strukturelle Änderungen in der Art und Weise zu drängen, wie Schulen und Polizeibehörden mit Warnungen zur Erkennung von KI-Bedrohungen umgehen. Die Organisation sagte, die Klage ziele darauf ab, Reformen zu erzwingen, die öffentliche Akteure dazu verpflichten, Berichte von KI-Bedrohungserkennungsplattformen zu überprüfen, bevor sie reagieren, um zu bewerten, ob diese KI-Technologie überhaupt für den Einsatz in Schulen geeignet ist, und um Richtlinien zu entwickeln, die sicherstellen, dass Fehlalarme keine bewaffneten Polizeireaktionen auslösen.
Die Gruppe fordert außerdem mehr Schulung, Aufsicht und Transparenz in Bezug auf Fehler und Ergebnisse sowie Beiträge der Community zum Einsatz der Technologie.
„Unregulierte KI hat tiefgreifende Konsequenzen, insbesondere wenn sie junge Menschen betrifft. Da diese Technologie immer weiter verbreitet wird, darf dies nicht auf Kosten klarer Vorschriften, Leitplanken und Erwartungen für die Erwachsenen geschehen, die damit interagieren“, sagte Leah Frazier, Direktorin der Digital Justice Initiative beim Lawyers' Committee.
Ein Testfall für die KI-Waffenerkennung in Schulen
Der Fall kommt zu einer Zeit, in der amerikanische Schulbezirke zunehmend KI-gestützte Waffenerkennung einführen und Computer-Vision-Systeme an Eingängen und in Überwachungsübertragungen positionieren, um Schießereien in Schulen zu verhindern. Der Anwaltsausschuss formulierte die umfassenderen Interessen ausdrücklich und argumentierte, dass der Vorfall Bedenken hinsichtlich der Zuverlässigkeit der KI-Technologie in Einrichtungen der öffentlichen Sicherheit aufwirft, „wo Genauigkeit in Situationen, in denen es um Leben und Tod geht, von entscheidender Bedeutung ist“ – und stellte fest, dass Schäden und Ungenauigkeiten durch solche Systeme schwarze Gemeinschaften unverhältnismäßig stark beeinträchtigen.
Rechtsbeobachter werden mehrere Fragen beobachten, die die Beschwerde aufwirft. Ob ein KI-Anbieter für die Leistung seiner Erkennungsmodelle haftbar gemacht werden kann, ob Schulbezirke, die sie einsetzen, einer erhöhten Überprüfungspflicht unterliegen und ob das Vertrauen der Polizei auf eine automatisierte Warnung ohne unabhängige Bestätigung gegen den verfassungsmäßigen Schutz vor unangemessener Beschlagnahme verstößt, sind alles aktuelle Fragen, die das Bezirksgericht Baltimore County nun abwägen muss.
Für die vier Studenten, die im Mittelpunkt des Falles stehen – die noch Kinder waren, als Beamte bei einem Snack Waffen auf sie richteten – ist der Rechtsstreit auch persönlich. Ihre Anwälte sagen, das Ziel bestehe darin, sicherzustellen, dass kein Student erneut mit der bewaffneten Polizei wegen eines Fehlalarms konfrontiert wird, den eine menschliche Überprüfung in Sekundenschnelle hätte erkennen können.
Der Fall wird vor dem Bezirksgericht für Baltimore County verhandelt. Zum Zeitpunkt des Schreibens war keine öffentliche Reaktion der Angeklagten bekannt.
Quellen: Pressemitteilung des Lawyers' Committee for Civil Rights Under Law, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →