W dniu 18 listopada 2026 r. Komisja Prawników ds. Praw Obywatelskich złożyła pozew w imieniu czterech obecnych i byłych czarnoskórych uczniów Kenwood High School w hrabstwie Baltimore w stanie Maryland po tym, jak system wykrywania broni oparty na sztucznej inteligencji pomylił jedną z ich torebek z chipami z bronią palną, a uzbrojona policja zatrzymała i przeszukała nastolatków na terenie kampusu.

W skardze złożonej do Sądu Okręgowego dla hrabstwa Baltimore jako pozwanych wymienia się firmę Omnilert, LLC – twórcę systemu Omnilert Gun Detect używanego w szkołach publicznych hrabstwa Baltimore – wraz ze szkołami publicznymi hrabstwa Baltimore i personelem, Departamentem Policji hrabstwa Baltimore i poszczególnymi funkcjonariuszami. Zarzuca naruszenie federalnych i stanowych praw konstytucyjnych uczniów, a także zaniedbanie i rażące zaniedbanie. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Co się wydarzyło w październiku 2025 r

Według Komisji Prawników incydent rozpoczął się, gdy Omnilert Gun Detect – system nadzoru oparty na sztucznej inteligencji wdrożony w szkołach w hrabstwie – wygenerował alert oznaczający torbę z czipami nastolatka jako broń palną z określonym prawdopodobieństwem na 90%. System pomylił torbę Doritos prowadzoną przez jednego z uczniów z bronią.

Fałszywy alarm zapoczątkował reakcję, która zakończyła się atakiem uzbrojonej lokalnej policji na nastolatków na terenie kampusu, zaledwie kilka kroków od wejścia do szkoły. Organizacja podała, że ​​uczniom kazano uklęknąć, skuć ich w kajdanki i przeszukać. „The New York Times”, „The Guardian”, „NBC News”, „CBS News” i „Baltimore Sun” doniosły o pozwie i związanym z nim incydencie, który zwrócił uwagę całego kraju na wykrywanie broni w szkołach przy użyciu sztucznej inteligencji.

„Policja powiedziała mojemu synowi, że to mógł być prawdziwy problem. Żadne dziecko w hrabstwie Baltimore nie powinno być narażone na tego rodzaju niebezpieczeństwo, czekając przed własną szkołą na podwózkę do domu od matki” – powiedziała Freida Winfield, która z komunikatu prasowego wynika, że ​​jechała po zatrzymanego syna Keitha i pozostałych uczniów.

Łańcuch ludzkich niepowodzeń

Głównym twierdzeniem pozwu jest to, że błąd technologii był pogłębiany na każdym kolejnym kroku przez ludzi, którzy ją otrzymali. Komisja Prawników twierdzi, że wszyscy, od personelu Omnilert, przez dyrektora szkoły, po funkcjonariuszy policji hrabstwa Baltimore, przeoczyli lub zignorowali tak zwane wyraźne dowody na to, że nie było broni.

W skardze zawarto również stwierdzenie, że władze szkolne wiedziały, że system Omnilert przed incydentem regularnie generował fałszywe alarmy – twierdzenie to, w przypadku wniesienia sprawy do sądu, sięgałoby sedna tego, jak hrabstwo porównuje niezawodność technologii z jej wdrożeniem w sytuacjach, w których uczniowie mają kontakt z uczniami.

„Ci uczniowie zawiedli nie tylko ze względu na technologię podatną na fałszywe alarmy, ale także ze względu na samych dorosłych, którzy mieli zapewnić im bezpieczeństwo, gdy wysyłamy ich do szkoły” – powiedział Damon Hewitt, prezes i dyrektor wykonawczy Komitetu Prawników na rzecz Praw Obywatelskich w świetle prawa. „Zamiast tej ochrony otrzymali broń i doznali traumy. A mogło być jeszcze gorzej”.

Czego żąda pozew

Oprócz odszkodowania Komisja Prawników wykorzystuje tę sprawę do nalegania na zmiany strukturalne w sposobie, w jaki szkoły i wydziały policji radzą sobie z alertami wykrywania zagrożeń AI. Organizacja stwierdziła, że ​​pozew ma na celu wymuszenie reform wymagających od podmiotów publicznych weryfikacji raportów z platform wykrywania zagrożeń AI przed udzieleniem odpowiedzi, oceny, czy taka technologia sztucznej inteligencji w ogóle nadaje się do stosowania w szkołach, a także opracowania polityk zapewniających, że fałszywe alarmy nie wywołają uzbrojonych reakcji policji.

Grupa wzywa także do większej liczby szkoleń, nadzoru i przejrzystości w zakresie błędów i wyników, a także do wkładu społeczności w zakresie wdrażania technologii.

„Nieuregulowana sztuczna inteligencja ma poważne konsekwencje, zwłaszcza jeśli angażuje młodych ludzi. W miarę jak technologia ta zyskuje coraz szersze zastosowanie, nie może się to odbywać kosztem jasnych przepisów, barier ochronnych i oczekiwań wobec dorosłych, którzy z nią wchodzą w interakcję” – powiedziała Leah Frazier, dyrektor Inicjatywy na rzecz Sprawiedliwości Cyfrowej w Komitecie Prawników.

Przypadek testowy do wykrywania broni AI w szkołach

Sprawa pojawia się w momencie, gdy amerykańskie okręgi szkolne coraz częściej wdrażają wykrywanie broni oparte na sztucznej inteligencji, umieszczając komputerowe systemy wizyjne przy wejściach i na kanałach monitoringu w celu zapobiegania strzelaninom w szkołach. Komitet Prawników wyraźnie sformułował szersze kwestie, argumentując, że incydent budzi obawy co do niezawodności technologii sztucznej inteligencji w warunkach bezpieczeństwa publicznego, „gdzie dokładność ma kluczowe znaczenie w sytuacjach życia i śmierci” – i zauważając, że szkody i niedokładności wynikające z takich systemów nieproporcjonalnie wpływają na społeczności Czarnych.

Obserwatorzy prawni będą przyglądać się kilku kwestiom poruszonym w skardze. To, czy dostawca sztucznej inteligencji może zostać pociągnięty do odpowiedzialności za działanie swoich modeli wykrywania, czy okręgi szkolne, które je wdrażają, mają zwiększony obowiązek weryfikacji oraz czy poleganie policji na automatycznych alertach bez niezależnego potwierdzenia narusza konstytucyjną ochronę przed nieuzasadnionym zajęciem, to aktualne kwestie, które sąd okręgowy hrabstwa Baltimore będzie teraz musiał rozważyć.

W przypadku czterech uczniów, których głównym tematem jest sprawa – którzy byli dziećmi, gdy funkcjonariusze wycelowali w nich broń podczas przekąski – postępowanie sądowe ma także charakter osobisty. Ich prawnicy twierdzą, że celem jest dopilnowanie, aby żaden uczeń nie spotkał się ponownie z uzbrojoną policją z powodu fałszywego alarmu, który weryfikacja przez człowieka mogłaby wychwycić w ciągu kilku sekund.

Sprawa toczy się przed Sądem Okręgowym hrabstwa Baltimore. W chwili pisania tego tekstu nie otrzymano żadnej publicznej odpowiedzi od oskarżonych.

Źródła: komunikat prasowy Komitetu Prawników na rzecz Praw Obywatelskich, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →