Il Comitato degli avvocati per i diritti civili ai sensi della legge ha intentato una causa il 18 novembre 2026, per conto di quattro attuali ed ex studenti neri della Kenwood High School nella contea di Baltimora, nel Maryland, dopo che un sistema di rilevamento delle armi basato sull'intelligenza artificiale ha scambiato uno dei loro sacchetti di patatine per un'arma da fuoco e la polizia armata ha arrestato e perquisito gli adolescenti nel campus.
La denuncia, depositata presso la Circuit Court della contea di Baltimora, nomina come imputati Omnilert, LLC - il produttore del sistema Omnilert Gun Detect utilizzato nelle scuole pubbliche della contea di Baltimora - insieme alle scuole pubbliche e al personale della contea di Baltimora, al dipartimento di polizia della contea di Baltimora e a singoli agenti. Si denunciano violazioni dei diritti costituzionali federali e statali degli studenti, nonché negligenza e negligenza grave. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
Cosa è successo nell'ottobre 2025
Secondo il Comitato degli avvocati, l'incidente è iniziato quando Omnilert Gun Detect - un sistema di sorveglianza basato sull'intelligenza artificiale distribuito nelle scuole della contea - ha generato un avviso segnalando il sacchetto di patatine di un adolescente come un'arma da fuoco con una probabilità dichiarata del 90%. Il sistema aveva scambiato una borsa di Doritos portata da uno degli studenti per una pistola.
Il falso allarme ha innescato una risposta che si è conclusa con la polizia locale armata che ha invaso gli adolescenti nel campus, a pochi passi dall'ingresso della scuola. Agli studenti è stato ordinato di inginocchiarsi, ammanettati e perquisiti, ha detto l'organizzazione. Il New York Times, The Guardian, NBC News, CBS News e Baltimore Sun hanno tutti riferito della causa e dell’incidente sottostante, che ha attirato l’attenzione nazionale sul rilevamento di armi basato sull’intelligenza artificiale nelle scuole.
"La polizia ha detto a mio figlio che questo avrebbe potuto essere un vero problema. Nessun bambino nella contea di Baltimora dovrebbe affrontare questo tipo di pericolo mentre aspetta fuori dalla scuola un passaggio da sua madre", ha detto Freida Winfield, che stava andando a prendere suo figlio Keith e gli altri studenti quando furono arrestati, secondo il comunicato stampa.
Una catena di fallimenti umani
Una tesi centrale della causa è che l'errore della tecnologia è stato aggravato in ogni passo successivo dagli esseri umani che l'hanno ricevuta. Il Comitato degli avvocati afferma che tutti, dallo staff dell'Omnilert al preside della scuola, agli agenti di polizia della contea di Baltimora, hanno mancato o ignorato quella che viene definita una prova evidente che non c'era alcuna pistola.
La denuncia afferma inoltre che i funzionari scolastici sapevano che il sistema Omnilert produceva regolarmente falsi allarmi prima dell’incidente – un’affermazione che, se contestata, andrebbe al nocciolo del modo in cui la contea ha valutato l’affidabilità della tecnologia rispetto al suo utilizzo in contesti rivolti agli studenti.
"Questi studenti sono stati delusi non solo da una tecnologia soggetta a falsi allarmi, ma anche dagli stessi adulti destinati a tenerli al sicuro quando li mandiamo a scuola", ha affermato Damon Hewitt, presidente e direttore esecutivo del Comitato degli avvocati per i diritti civili ai sensi della legge. "Invece di questa protezione, sono stati accolti con armi da fuoco e traumatizzati. E avrebbe potuto andare anche peggio."
Cosa cerca la causa
Al di là dei danni, il Comitato degli avvocati sta utilizzando il caso per promuovere cambiamenti strutturali nel modo in cui le scuole e i dipartimenti di polizia gestiscono gli avvisi di rilevamento delle minacce dell’IA. L’organizzazione ha affermato che la causa mira a imporre riforme che impongano agli attori pubblici di verificare i rapporti delle piattaforme di rilevamento delle minacce di intelligenza artificiale prima di rispondere, di valutare se tale tecnologia di intelligenza artificiale sia appropriata per l’uso nelle scuole e di sviluppare politiche che garantiscano che i falsi allarmi non inneschino risposte armate da parte della polizia.
Il gruppo chiede inoltre maggiore formazione, supervisione e trasparenza sugli errori e sui risultati, oltre al contributo della comunità su come viene utilizzata la tecnologia.
"L'intelligenza artificiale non regolamentata ha conseguenze profonde, soprattutto quando coinvolge i giovani. Man mano che questa tecnologia ottiene un'adozione sempre più diffusa, ciò non può avvenire a scapito di regolamenti chiari, barriere e aspettative per gli adulti che interagiscono con essa", ha affermato Leah Frazier, direttrice della Digital Justice Initiative presso il Comitato degli avvocati.
Un caso di prova per il rilevamento di armi IA nelle scuole
Il caso arriva mentre i distretti scolastici americani adottano sempre più il rilevamento delle armi basato sull’intelligenza artificiale, posizionando sistemi di visione artificiale agli ingressi e sui feed di sorveglianza in nome della prevenzione delle sparatorie nelle scuole. Il Comitato degli avvocati ha inquadrato esplicitamente la posta in gioco più ampia, sostenendo che l’incidente solleva preoccupazioni sull’affidabilità della tecnologia dell’intelligenza artificiale in contesti di pubblica sicurezza “dove la precisione è essenziale in situazioni di vita o di morte” – e sottolineando che i danni e le imprecisioni derivanti da tali sistemi hanno un impatto sproporzionato sulle comunità nere.
Gli osservatori legali osserveranno diverse domande sollevate dalla denuncia. Se un fornitore di intelligenza artificiale possa essere ritenuto responsabile per le prestazioni dei suoi modelli di rilevamento, se i distretti scolastici che li implementano abbiano un maggiore dovere di verifica e se il affidamento della polizia su un allarme automatizzato senza una conferma indipendente violi le protezioni costituzionali contro i sequestri irragionevoli sono tutte questioni attuali che il tribunale circoscrizionale della contea di Baltimora dovrà ora valutare.
Per i quattro studenti al centro del caso – che erano bambini quando gli agenti hanno puntato contro di loro delle armi durante uno spuntino – il contenzioso è anche personale. I loro avvocati affermano che l'obiettivo è assicurarsi che nessuno studente affronti nuovamente la polizia armata per un falso allarme che un controllo umano avrebbe potuto rilevare in pochi secondi.
Il caso proseguirà presso la Circuit Court della contea di Baltimora. Al momento della stesura di questo articolo non è stata riportata alcuna risposta pubblica da parte degli imputati.
Fonti: comunicato stampa del Comitato degli avvocati per i diritti civili ai sensi della legge, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →