Výbor právníků pro občanská práva podle zákona podal 18. listopadu 2026 žalobu jménem čtyř černošských současných a bývalých studentů Kenwood High School v Baltimore County v Marylandu poté, co systém detekce zbraní AI spletl jeden z jejich pytlů s čipy se střelnou zbraní a ozbrojená policie zadržela a prohledala teenagery v kampusu.

Stížnost podaná u obvodního soudu pro okres Baltimore uvádí jako obžalované společnost Omnilert, LLC – výrobce systému Omnilert Gun Detect používaného ve veřejných školách v okrese Baltimore – spolu s veřejnými školami a personálem okresu Baltimore, policejním oddělením okresu Baltimore a jednotlivými důstojníky. Obviňuje z porušování federálních a státních ústavních práv studentů a také z nedbalosti a hrubé nedbalosti. For more context on this story, see our ongoing AI trends.

Co se stalo v říjnu 2025

Podle Výboru právníků incident začal, když Omnilert Gun Detect – AI sledovací systém rozmístěný v okresních školách – vygeneroval výstrahu označující tašku s čipy teenagera jako střelnou zbraň s 90procentní pravděpodobností. Systém si spletl pytel Doritos, který nesl jeden ze studentů, se zbraní.

Falešný poplach vyvolal reakci, která skončila ozbrojenou místní policií, která se hemžila teenagery v kampusu, jen pár kroků od vchodu do školy. Studenti byli nařízeni na kolena, spoutáni a prohledáni, uvedla organizace. The New York Times, The Guardian, NBC News, CBS News a Baltimore Sun informovaly o soudním sporu a souvisejícím incidentu, který přitáhl celostátní pozornost k detekci zbraní ve školách na základě umělé inteligence.

"Policie řekla mému synovi, že to mohl být skutečný problém. Žádné dítě v okrese Baltimore by nemělo čelit takovému nebezpečí, když čeká před svou vlastní školou na odvoz od své matky domů," řekla podle tiskové zprávy Freida Winfieldová, která byla na cestě vyzvednout svého syna Keitha a ostatní studenty, když byli zadrženi.

Řetězec lidských selhání

Ústředním tvrzením žaloby je, že chyba technologie byla při každém dalším kroku znásobena lidmi, kteří ji obdrželi. Právní výbor říká, že všichni od Omnilertových zaměstnanců přes ředitele školy až po policisty z okresu Baltimore postrádali nebo ignorovali to, co nazývá jasným důkazem, že tam nebyla žádná zbraň.

Stížnost také tvrdí, že úředníci školy věděli, že systém Omnilert před incidentem pravidelně vytvářel falešná upozornění – tvrzení, které by v případě soudního sporu šlo k jádru toho, jak kraj vážil spolehlivost technologie a její nasazení v kontextu se studenty.

"Tito studenti selhali nejen díky technologii, která je náchylná k falešným poplachům, ale také kvůli samotným dospělým, kteří je mají chránit, když je posíláme do školy," řekl Damon Hewitt, prezident a výkonný ředitel Právní komise pro občanská práva podle zákona. "Místo této ochrany se setkali se zbraněmi a byli traumatizováni. A mohlo to být ještě horší."

Co žaloba hledá

Kromě náhrady škody využívá právní výbor případ k prosazení strukturálních změn ve způsobu, jakým školy a policejní oddělení zpracovávají výstrahy týkající se detekce AI. Organizace uvedla, že cílem žaloby je vynutit reformy, které vyžadují, aby veřejní činitelé ověřili zprávy z platforem detekce AI hrozeb, než zareagují, aby vyhodnotili, zda je taková technologie AI vůbec vhodná pro použití ve školách, a vypracují zásady, které zajistí, že falešné výstrahy nespustí ozbrojené policejní reakce.

Skupina také požaduje více školení, dohledu a transparentnosti ohledně chyb a výsledků, plus příspěvek komunity k tomu, jak je technologie nasazena.

"Neregulovaná umělá inteligence má hluboké důsledky, zejména pokud jde o mladé lidi. Vzhledem k tomu, že se tato technologie stále více rozšiřuje, nemůže k ní dojít na úkor jasných předpisů, mantinelů a očekávání pro dospělé, kteří s ní komunikují," řekla Leah Frazier, ředitelka iniciativy Digital Justice Initiative ve Výboru právníků.

Testovací případ pro detekci AI zbraní ve školách

Případ přichází v době, kdy americké školní čtvrti stále více přijímají detekci zbraní poháněnou umělou inteligencí, umísťují systémy počítačového vidění u vchodů a na sledovací kanály ve jménu prevence školních střeleb. Právní výbor explicitně zarámoval širší sázky a tvrdil, že incident vyvolává obavy o spolehlivost technologie AI v prostředích veřejné bezpečnosti „kde je přesnost zásadní v situacích života a smrti“ – a poznamenává, že škody a nepřesnosti z takových systémů neúměrně ovlivňují černošské komunity.

Právní pozorovatelé budou sledovat několik otázek, které stížnost vyvolává. Zda může být dodavatel umělé inteligence odpovědný za výkon svých detekčních modelů, zda školní obvody, které je nasazují, mají zvýšenou povinnost ověřování a zda spoléhání policie na automatické varování bez nezávislého potvrzení porušuje ústavní ochranu proti nepřiměřenému zabavení, to jsou všechny živé problémy, které nyní bude obvodní soud v Baltimore County posuzovat.

Pro čtyři studenty v centru případu – kteří byli dětmi, když na ně policisté při svačině tasili zbraně – je soudní spor také osobní. Jejich právníci říkají, že cílem je zajistit, aby žádný student znovu nečelil ozbrojené policii kvůli falešnému poplachu, který by lidská kontrola mohla zachytit během několika sekund.

Případ bude pokračovat u obvodního soudu pro okres Baltimore. V době psaní tohoto článku nebyla hlášena žádná veřejná reakce od obžalovaných.

Zdroje: Tisková zpráva Lawyers' Committee for Civil Rights Under Law, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →