Lawyers' Committee for Civil Rights Under Law lämnade in en stämningsansökan den 18 november 2026, på uppdrag av fyra Black nuvarande och före detta elever vid Kenwood High School i Baltimore County, Maryland, efter att ett AI-vapendetekteringssystem misstog en av deras påsar med chips för ett skjutvapen och beväpnad polis greps och sökte igenom tonåringarna på campus.
Klagomålet, som lämnades in till Circuit Court för Baltimore County, namnger som svarande Omnilert, LLC – tillverkaren av Omnilert Gun Detect-systemet som används i hela Baltimore County Public Schools – tillsammans med Baltimore County Public Schools och personal, Baltimore County Police Department och enskilda tjänstemän. Den hävdar kränkningar av elevernas federala och statliga konstitutionella rättigheter samt vårdslöshet och grov vårdslöshet. For more context on this story, see our ongoing artificial intelligence updates.
Vad hände i oktober 2025
Enligt Advokatkommittén började händelsen när Omnilert Gun Detect – ett AI-övervakningssystem utplacerat över länets skolor – genererade en varning som flaggade en tonåringspåse med chips som ett skjutvapen med en angiven 90-procentig sannolikhet. Systemet hade misstat en påse Doritos som en av eleverna bar med sig för en pistol.
Den falska varningen satte igång ett svar som slutade med att beväpnade lokala poliser svärmade tonåringarna på campus, bara några steg från skolans entré. Eleverna beordrades ner på knä, handfängslade och genomsöktes, sade organisationen. New York Times, The Guardian, NBC News, CBS News och Baltimore Sun rapporterade alla om rättegången och den underliggande incidenten, som har uppmärksammat nationell AI-baserad vapendetektering i skolor.
"Polisen sa till min son att detta kunde ha varit ett verkligt problem. Inget barn i Baltimore County ska möta den här typen av fara när de väntar utanför sin egen skola på skjuts hem från sin mamma", säger Freida Winfield, som var på väg för att hämta sin son Keith och de andra eleverna när de greps, enligt pressmeddelandet.
En kedja av mänskliga misslyckanden
Ett centralt påstående i rättegången är att teknikens fel förvärrades vid varje efterföljande steg av människorna som fick den. Advokatkommittén säger att alla från Omnilerts egen personal till rektorn till poliserna i Baltimore County missade eller ignorerade vad den kallar tydliga bevis för att det inte fanns någon pistol.
I klagomålet hävdas också att skolans tjänstemän kände till att Omnilert-systemet regelbundet producerade falska varningar före incidenten – ett påstående som, om det tvistas, skulle gå till hjärtat av hur länet vägde teknikens tillförlitlighet mot dess utplacering i elevinriktade sammanhang.
"Dessa elever misslyckades inte bara av en teknik som är benägen att få falska varningar, utan också av de mycket vuxna som är avsedda att hålla dem säkra när vi skickar dem till skolan", säger Damon Hewitt, ordförande och verkställande direktör för Lawyers' Committee for Civil Rights Under Law. "Istället för detta skydd möttes de av vapen och traumatiserades. Och det kunde ha varit ännu värre."
Vad stämningen avser
Utöver skadestånd använder juristkommittén ärendet för att driva på för strukturella förändringar i hur skolor och polisavdelningar hanterar varningar för upptäckt av AI-hot. Organisationen sa att rättegången syftar till att tvinga fram reformer som kräver att offentliga aktörer verifierar rapporter från plattformar för upptäckt av AI-hot innan de svarar, för att utvärdera om sådan AI-teknik överhuvudtaget är lämplig för användning i skolor och att utveckla policyer som säkerställer att falska varningar inte utlöser väpnade polissvar.
Gruppen efterlyser också mer utbildning, tillsyn och transparens kring fel och resultat, plus input från samhället om hur tekniken distribueras.
"Oreglerad AI har djupgående konsekvenser, särskilt när man involverar unga människor. Eftersom den här tekniken får mer utbredd användning kan det inte ske på bekostnad av tydliga regler, skyddsräcken och förväntningar på de vuxna som interagerar med den", säger Leah Frazier, chef för Digital Justice Initiative vid Lawyers' Committee.
Ett testfall för AI-vapendetektering i skolor
Fallet anländer när amerikanska skoldistrikt i allt större utsträckning använder AI-driven vapendetektering, placerar datorseendesystem vid entréer och på övervakningsflöden i namnet att förhindra skolskjutningar. Advokatkommittén formulerade de bredare insatserna uttryckligen och hävdade att incidenten väcker oro för tillförlitligheten av AI-teknik i offentliga säkerhetsmiljöer "där noggrannhet är avgörande i situationer på liv och död" - och noterar att skador och felaktigheter från sådana system påverkar svarta samhällen oproportionerligt mycket.
Juridiska observatörer kommer att titta på flera frågor som klagomålet väcker. Huruvida en AI-leverantör kan hållas ansvarig för prestandan av dess detektionsmodeller, om skoldistrikt som använder dem är skyldiga en ökad kontrollplikt och om polisens beroende av en automatiserad varning utan oberoende bekräftelse bryter mot konstitutionella skydd mot orimliga beslag är alla frågor som Baltimore Countys kretsrätt nu kommer att bli ombedd att väga.
För de fyra eleverna i målet – som var barn när poliser drog vapen på dem över ett mellanmål – är rättstvisterna också personliga. Deras advokater säger att målet är att se till att ingen student igen möter beväpnad polis över ett falskt larm som en mänsklig granskning kunde ha fångat på några sekunder.
Ärendet kommer att gå vidare i Circuit Court för Baltimore County. Inget offentligt svar från de tilltalade hade rapporterats i skrivande stund.
Källor: Lawyers' Committee for Civil Rights Under Law pressmeddelande, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →