Comitetul avocaților pentru drepturile civile în temeiul legii a intentat un proces pe 18 noiembrie 2026, în numele a patru elevi actuali și foști negri ai liceului Kenwood din comitatul Baltimore, Maryland, după ce un sistem de detectare a armelor AI a confundat unul dintre pungile lor cu jetoane cu o armă de foc și poliția înarmată a reținut și percheziționat adolescenții în campus.
Plângerea, depusă la Curtea de circuit pentru județul Baltimore, numește ca inculpați pe Omnilert, LLC – producătorul sistemului Omnilert Gun Detect utilizat în școlile publice din județul Baltimore – împreună cu școlile publice din județul Baltimore și personalul, Departamentul de poliție din județul Baltimore și ofițeri individuali. Acesta susține încălcări ale drepturilor constituționale federale și de stat ale studenților, precum și neglijență și neglijență gravă. For more context on this story, see our ongoing AI trends.
Ce s-a întâmplat în octombrie 2025
Potrivit Comitetului Avocaților, incidentul a început atunci când Omnilert Gun Detect - un sistem de supraveghere AI implementat în școlile din județ - a generat o alertă care semnala punga de jetoane a unui adolescent ca o armă de foc cu o probabilitate declarată de 90 la sută. Sistemul confundase o pungă de Doritos purtată de unul dintre elevi cu o armă.
Alerta falsă a declanșat un răspuns care s-a încheiat cu poliția locală înarmată care roiește adolescenții în campus, la doar câțiva pași de intrarea școlii. Elevii au fost ordonați să îngenuncheze, încătușați și percheziționați, a spus organizația. New York Times, The Guardian, NBC News, CBS News și Baltimore Sun au raportat toate despre proces și incidentul subiacent, care a atras atenția națională asupra detectării armelor bazate pe inteligență artificială în școli.
"Poliția i-a spus fiului meu că ar fi putut fi o problemă reală. Niciun copil din județul Baltimore nu ar trebui să se confrunte cu acest tip de pericol în timp ce așteaptă în fața propriei școli pentru a fi condus acasă de la mama sa", a spus Freida Winfield, care era în drum să-și ia fiul Keith și ceilalți elevi când au fost reținuți, potrivit comunicatului de presă.
Un lanț de eșecuri umane
O afirmație centrală a procesului este că eroarea tehnologiei a fost agravată la fiecare pas ulterior de către oamenii care au primit-o. Comitetul avocaților spune că toată lumea, de la personalul lui Omnilert la directorul școlii până la ofițerii de poliție din județul Baltimore, au ratat sau au ignorat ceea ce numește dovezi clare că nu exista nicio armă.
Plângerea afirmă, de asemenea, că oficialii școlii știau că sistemul Omnilert producea în mod regulat alerte false înainte de incident - o afirmație care, dacă ar fi atacată în justiție, ar merge în centrul modului în care județul a cântărit fiabilitatea tehnologiei față de implementarea acesteia în contexte cu care se confruntă elevii.
„Acești studenți au fost eșuați nu numai de o tehnologie care este predispusă la alerte false, ci și de adulții meniți să-i țină în siguranță atunci când îi trimitem la școală”, a declarat Damon Hewitt, președinte și director executiv al Comitetului avocaților pentru drepturile civile în temeiul legii. „În loc de această protecție, au fost întâmpinați cu arme și traumatizați. Și ar fi putut fi și mai rău”.
Ce caută procesul
Dincolo de daune, Comitetul avocaților folosește cazul pentru a solicita schimbări structurale în modul în care școlile și departamentele de poliție gestionează alertele de detectare a amenințărilor AI. Organizația a spus că procesul urmărește să forțeze reformele care solicită actorilor publici să verifice rapoartele de la platformele de detectare a amenințărilor AI înainte de a răspunde, să evalueze dacă o astfel de tehnologie AI este adecvată pentru utilizarea în școli și să dezvolte politici care să asigure alertele false să nu declanșeze răspunsuri armate ale poliției.
Grupul solicită, de asemenea, mai multă instruire, supraveghere și transparență cu privire la erori și rezultate, plus contribuția comunității cu privire la modul în care este implementată tehnologia.
„IA nereglementată are consecințe profunde, în special atunci când implică tineri. Pe măsură ce această tehnologie câștigă o adoptare mai răspândită, nu se poate întâmpla în detrimentul unor reglementări clare, balustrade și așteptări pentru adulții care interacționează cu ea”, a declarat Leah Frazier, directorul Digital Justice Initiative din cadrul Comitetului avocaților.
Un caz de testare pentru detectarea armelor AI în școli
Cazul vine pe măsură ce districtele școlare americane adoptă din ce în ce mai mult detectarea armelor bazate pe inteligență artificială, poziționând sisteme de viziune computerizată la intrări și pe fluxuri de supraveghere în numele prevenirii împușcăturilor în școli. Comitetul avocaților a încadrat mizele mai ample în mod explicit, argumentând că incidentul ridică îngrijorări cu privire la fiabilitatea tehnologiei AI în setările de siguranță publică „unde acuratețea este esențială în situații de viață sau de moarte” – și observând că prejudiciile și inexactitățile din astfel de sisteme au un impact disproporționat asupra comunităților negre.
Observatorii juridici vor urmări câteva întrebări pe care le ridică plângerea. Dacă un furnizor de inteligență artificială poate fi considerat responsabil pentru performanța modelelor sale de detectare, dacă districtele școlare care le desfășoară au o datorie sporită de verificare și dacă încrederea poliției pe o alertă automată fără coroborare independentă încalcă protecția constituțională împotriva confiscării nerezonabile sunt toate problemele actuale pe care curtea de circuit din județul Baltimore va fi acum rugată să cântărească.
Pentru cei patru studenți aflați în centrul dosarului — care erau copii când ofițerii au tras arme pe ei la o gustare — litigiul este și el personal. Avocații lor spun că scopul este de a se asigura că niciun student nu se confruntă din nou cu poliția înarmată din cauza unei alarme false pe care o analiză umană ar fi putut-o surprinde în câteva secunde.
Cazul se va desfășura la Curtea de circuit pentru județul Baltimore. La momentul redactării acestui articol nu fusese raportat niciun răspuns public din partea inculpaților.
Surse: Comunicatul de presă al Comitetului avocaților pentru drepturile civile în temeiul legii, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →