De Lawyers' Committee for Civil Rights Under Law heeft op 18 november 2026 een rechtszaak aangespannen namens vier zwarte huidige en voormalige studenten van Kenwood High School in Baltimore County, Maryland, nadat een AI-wapendetectiesysteem een van hun zakken chips had aangezien voor een vuurwapen en de gewapende politie de tieners op de campus had aangehouden en doorzocht.
In de klacht, ingediend bij de Circuit Court voor Baltimore County, worden de verdachten Omnilert, LLC genoemd – de maker van het Omnilert Gun Detect-systeem dat in de openbare scholen van Baltimore County wordt gebruikt – samen met de openbare scholen en het personeel van Baltimore County, de politie van Baltimore County en individuele agenten. Het beweert schendingen van de federale en staatsgrondwettelijke rechten van de studenten, evenals nalatigheid en grove nalatigheid. Voor meer context over dit verhaal, zie ons meer AI-verhalen.
Wat er gebeurde in oktober 2025
Volgens de Advocatencommissie begon het incident toen Omnilert Gun Detect – een AI-bewakingssysteem dat in de scholen van de provincie werd ingezet – een waarschuwing genereerde waarin de zak chips van een tiener met een waarschijnlijkheid van 90 procent als vuurwapen werd gemarkeerd. Het systeem had een zak Doritos die een van de studenten droeg, aangezien voor een pistool.
Het valse alarm veroorzaakte een reactie die eindigde met een gewapende lokale politie die de tieners op de campus, op steenworp afstand van de ingang van de school, omsingelde. De studenten werden op hun knieën gedwongen, geboeid en gefouilleerd, aldus de organisatie. De New York Times, The Guardian, NBC News, CBS News en de Baltimore Sun berichtten allemaal over de rechtszaak en het onderliggende incident, dat de nationale aandacht heeft gevestigd op AI-gebaseerde wapendetectie op scholen.
“De politie vertelde mijn zoon dat dit een echt probleem had kunnen zijn. Geen enkel kind in Baltimore County zou met dit soort gevaar te maken moeten krijgen terwijl hij buiten zijn eigen school wacht op een rit naar huis van zijn moeder”, zegt Freida Winfield, die op weg was om haar zoon Keith en de andere studenten op te halen toen ze werden vastgehouden, aldus het persbericht.
Een keten van menselijk falen
Een centrale claim van de rechtszaak is dat de fout van de technologie bij elke volgende stap werd verergerd door de mensen die de technologie ontvingen. De Advocatencommissie zegt dat iedereen, van Omnilerts eigen personeel tot de schooldirecteur en de politieagenten van Baltimore County, wat zij noemt duidelijk bewijs miste of negeerde dat er geen wapen was.
De klacht beweert ook dat schoolfunctionarissen wisten dat het Omnilert-systeem vóór het incident regelmatig valse waarschuwingen produceerde – een bewering die, als er een rechtszaak over zou worden gevoerd, de kern zou raken van hoe de provincie de betrouwbaarheid van de technologie afwoog tegen de inzet ervan in leerlinggerichte contexten.
“Deze studenten zijn niet alleen in de steek gelaten door een technologie die vatbaar is voor valse waarschuwingen, maar ook door de volwassenen die bedoeld zijn om hen veilig te houden als we ze naar school sturen”, zegt Damon Hewitt, president en uitvoerend directeur van de Lawyers’ Committee for Civil Rights Under Law. "In plaats van deze bescherming kregen ze wapens en raakten ze getraumatiseerd. En het had nog erger kunnen zijn."
Wat de rechtszaak beoogt
Naast schade gebruikt de Juristencommissie de zaak om aan te dringen op structurele veranderingen in de manier waarop scholen en politiediensten omgaan met AI-dreigingsdetectiewaarschuwingen. De organisatie zei dat de rechtszaak tot doel heeft hervormingen af te dwingen waarbij publieke actoren worden verplicht om rapporten van AI-dreigingsdetectieplatforms te verifiëren voordat ze reageren, om te evalueren of dergelijke AI-technologie überhaupt geschikt is voor gebruik op scholen, en om beleid te ontwikkelen dat ervoor zorgt dat valse waarschuwingen geen gewapende politiereacties veroorzaken.
De groep roept ook op tot meer training, toezicht en transparantie rond fouten en resultaten, plus input van de gemeenschap over de manier waarop de technologie wordt ingezet.
“Niet-gereguleerde AI heeft diepgaande gevolgen, vooral als het om jongeren gaat. Naarmate deze technologie op grotere schaal wordt toegepast, kan dit niet ten koste gaan van duidelijke regelgeving, vangrails en verwachtingen voor de volwassenen die ermee omgaan”, zegt Leah Frazier, directeur van het Digital Justice Initiative bij de Lawyers’ Committee.
Een testcase voor AI-wapendetectie op scholen
De zaak komt aan het licht nu Amerikaanse schooldistricten steeds meer AI-aangedreven wapendetectie toepassen, waarbij computervisiesystemen bij ingangen en op bewakingsfeeds worden gepositioneerd in naam van het voorkomen van schietpartijen op scholen. De Advocatencommissie heeft de bredere inzet expliciet geformuleerd, met het argument dat het incident aanleiding geeft tot bezorgdheid over de betrouwbaarheid van AI-technologie in openbare veiligheidssituaties “waar nauwkeurigheid essentieel is in situaties van leven en dood” – en merkt op dat de schade en onnauwkeurigheden van dergelijke systemen een onevenredige impact hebben op zwarte gemeenschappen.
Juridische waarnemers zullen kijken naar verschillende vragen die de klacht oproept. Of een AI-leverancier aansprakelijk kan worden gehouden voor de prestaties van zijn detectiemodellen, of schooldistricten die deze modellen inzetten een verhoogde verificatieplicht hebben, en of het vertrouwen van de politie op een geautomatiseerde waarschuwing zonder onafhankelijke bevestiging de grondwettelijke bescherming tegen onredelijke inbeslagname schendt, het zijn allemaal actuele kwesties die de rechtbank van Baltimore County nu zal moeten overwegen.
Voor de vier studenten die centraal stonden in de zaak – die nog kinderen waren toen agenten tijdens een snack wapens op hen trokken – is de rechtszaak ook persoonlijk. Hun advocaten zeggen dat het doel is om ervoor te zorgen dat geen enkele student opnieuw geconfronteerd wordt met de gewapende politie vanwege een vals alarm dat een menselijke beoordeling binnen enkele seconden had kunnen opvangen.
De zaak zal worden behandeld bij de Circuit Court van Baltimore County. Op het moment van schrijven was er nog geen publieke reactie van de beklaagden gerapporteerd.
Bronnen: persbericht van Lawyers' Committee for Civil Rights Under Law, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →