Komite Pengacara kanggo Hak Sipil miturut Hukum ngajokake tuntutan hukum tanggal 18 Nopember 2026, atas jenenge papat siswa ireng saiki lan mantan siswa Sekolah Tinggi Kenwood ing Baltimore County, Maryland, sawise sistem deteksi bedhil AI salah nganggep salah sawijining tas kripik minangka senjata api lan polisi bersenjata sing ditahan lan nggolèki para remaja ing kampus.
complaint, diajukake ing Pengadilan Circuit kanggo Baltimore County, jeneng minangka terdakwa Omnilert, LLC - Edo saka sistem Omnilert Gun Deteksi digunakake ing saindhenging Baltimore County Public Schools - bebarengan karo Baltimore County Public Schools lan personel, Baltimore County Police Department, lan perwira individu. Dituduhake nglanggar hak konstitusional federal lan negara, uga kelalaian lan kelalaian sing parah. For more context on this story, see our ongoing AI trends.
Apa sing Kedadean ing Oktober 2025
Miturut Komite Pengacara, kedadeyan kasebut diwiwiti nalika Omnilert Gun Detect - sistem pengawasan AI sing disebarake ing sekolah-sekolah kabupaten kasebut - nggawe tandha tandha tas kripik bocah enom minangka senjata api kanthi kemungkinan 90 persen. Sistem kasebut salah sijine tas Doritos sing digawa dening salah sawijining siswa minangka bedhil.
Tandha palsu kasebut nyebabake tanggepan sing dipungkasi karo polisi lokal bersenjata sing nggegirisi para remaja ing kampus, mung sawetara langkah saka lawang sekolah. Para siswa didhawuhi dhengkul, diborgol, lan digoleki, ujare organisasi kasebut. New York Times, The Guardian, NBC News, CBS News lan Baltimore Sun kabeh nglaporake babagan tuntutan hukum lan kedadeyan sing ndasari, sing narik perhatian nasional kanggo deteksi senjata berbasis AI ing sekolah.
"Polisi ngandhani anakku iki bisa dadi masalah nyata. Ora ana bocah ing Baltimore County sing kudu ngadhepi bebaya iki nalika ngenteni ing njaba sekolahe dhewe kanggo kulo saka ibune, "ujare Freida Winfield, sing ana ing dalan kanggo njupuk putrane Keith lan siswa liyane nalika ditahan, miturut siaran pers.
Rantai Gagal Manungsa
Klaim utama saka tuntutan hukum kasebut yaiku kesalahan teknologi kasebut ditambahake ing saben langkah sabanjure dening manungsa sing nampa. Komite Pengacara ngandika saben wong saka Staff Omnilert dhewe kanggo kepala sekolah kanggo perwira polisi Baltimore County ora kejawab utawa digatèkaké apa sing disebut bukti cetha sing ora ana bedhil.
Keluhan kasebut uga negesake manawa pejabat sekolah ngerti sistem Omnilert kanthi rutin ngasilake tandha palsu sadurunge kedadeyan kasebut - pratelan yen, yen digugat, bakal dadi ati babagan carane kabupaten kasebut nimbang linuwih teknologi kasebut marang panyebaran ing konteks sing diadhepi siswa.
"Siswa iki gagal ora mung dening teknologi sing rawan kanggo tandha palsu, nanging uga dening wong diwasa sing dimaksudake supaya tetep aman nalika dikirim menyang sekolah," ujare Damon Hewitt, presiden lan direktur eksekutif Komite Pengacara kanggo Hak Sipil miturut Hukum. "Tinimbang proteksi iki, dheweke ketemu karo bedhil lan trauma. Lan bisa uga luwih elek."
Apa sing Digoleki Tuntutan
Ngluwihi kerusakan, Komite Pengacara nggunakake kasus kasebut kanggo nyurung owah-owahan struktural babagan cara sekolah lan departemen polisi nangani tandha deteksi ancaman AI. Organisasi kasebut ujar manawa tuntutan hukum kasebut kanggo meksa reformasi sing mbutuhake aktor umum kanggo verifikasi laporan saka platform deteksi ancaman AI sadurunge nanggapi, kanggo ngevaluasi manawa teknologi AI kasebut cocog kanggo digunakake ing sekolah, lan ngembangake kabijakan sing njamin tandha palsu ora nyebabake tanggapan polisi bersenjata.
Klompok kasebut uga njaluk latihan luwih akeh, pengawasan lan transparansi babagan kesalahan lan asil, ditambah input komunitas babagan carane teknologi kasebut disebarake.
"AI sing ora diatur nduweni akibat sing penting, utamane nalika nglibatake wong enom. Amarga teknologi iki entuk adopsi sing luwih akeh, ora bisa kedadeyan kanthi biaya peraturan sing jelas, pagar, lan pangarepan kanggo wong diwasa sing sesambungan karo dheweke, "ujare Leah Frazier, direktur Digital Justice Initiative ing Komite Pengacara.
Kasus Uji Deteksi Senjata AI ing Sekolah
Kasus kasebut teka nalika distrik sekolah Amerika tambah akeh nggunakake deteksi senjata bertenaga AI, posisi sistem visi komputer ing lawang mlebu lan ing feed pengawasan kanthi jeneng nyegah penembakan sekolah. Panitia Pengacara nggawe taruhan sing luwih akeh kanthi jelas, kanthi alesan yen kedadeyan kasebut nyebabake keprihatinan babagan linuwih teknologi AI ing setelan keamanan umum "ing ngendi akurasi penting ing kahanan urip lan pati" - lan nyathet yen cilaka lan ora akurat saka sistem kasebut ora bisa nyebabake komunitas Ireng.
Pengamat hukum bakal nonton sawetara pitakonan sing diajukake keluhan kasebut. Apa vendor AI bisa tanggung jawab kanggo kinerja model deteksi, apa distrik sekolah sing nyebarake dheweke duwe tugas verifikasi sing luwih dhuwur, lan manawa ketergantungan polisi ing tandha otomatis tanpa konfirmasi independen nglanggar perlindungan konstitusional marang penyitaan sing ora wajar, kabeh masalah langsung sing bakal ditimbang dening pengadilan sirkuit Baltimore County.
Kanggo papat siswa ing tengah kasus kasebut - sing isih bocah nalika petugas narik gaman ing cemilan - litigasi uga pribadi. Pengacarane ujar manawa tujuane yaiku supaya ora ana siswa maneh sing ngadhepi polisi bersenjata amarga weker palsu sing bisa ditindakake dening manungsa sajrone sawetara detik.
Kasus kasebut bakal diterusake ing Pengadilan Sirkuit kanggo Baltimore County. Ora ana tanggapan umum saka para terdakwa sing dilaporake nalika nulis.
Sumber: Siaran Pers Komite Pengacara kanggo Hak Sipil miturut Hukum, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →