Jawatankuasa Peguam untuk Hak Sivil Di Bawah Undang-undang memfailkan saman pada 18 November 2026, bagi pihak empat pelajar kulit hitam semasa dan bekas pelajar Sekolah Menengah Kenwood di Baltimore County, Maryland, selepas sistem pengesanan senjata AI mengandaikan salah satu beg cip mereka sebagai senjata api dan polis bersenjata menahan dan menggeledah remaja tersebut di kampus.

Aduan itu, yang difailkan di Mahkamah Litar untuk Baltimore County, dinamakan sebagai defendan Omnilert, LLC — pembuat sistem Omnilert Gun Detect yang digunakan di seluruh Sekolah Awam Baltimore County — bersama-sama dengan Sekolah Awam dan kakitangan Baltimore County, Jabatan Polis Daerah Baltimore dan pegawai individu. Ia mendakwa pencabulan hak perlembagaan persekutuan dan negeri pelajar serta kecuaian dan kecuaian yang teruk. For more context on this story, see our ongoing AI news.

Apa yang Berlaku pada Oktober 2025

Menurut Jawatankuasa Peguam, insiden itu bermula apabila Omnilert Gun Detect — sistem pengawasan AI yang digunakan di seluruh sekolah di daerah itu — menghasilkan amaran yang menandakan beg cip remaja sebagai senjata api dengan kebarangkalian 90 peratus dinyatakan. Sistem itu telah tersilap beg Doritos yang dibawa oleh salah seorang pelajar sebagai pistol.

Amaran palsu itu mencetuskan tindak balas yang berakhir dengan polis tempatan bersenjata mengerumuni remaja di kampus, hanya beberapa langkah dari pintu masuk sekolah. Pelajar-pelajar itu diarah berlutut, digari, dan diperiksa, kata organisasi itu. The New York Times, The Guardian, NBC News, CBS News dan Baltimore Sun semuanya melaporkan mengenai tuntutan mahkamah dan insiden asas, yang telah menarik perhatian negara kepada pengesanan senjata berasaskan AI di sekolah.

"Polis memberitahu anak saya ini boleh menjadi masalah sebenar. Tiada kanak-kanak di Baltimore County harus menghadapi bahaya seperti ini semasa menunggu di luar sekolahnya sendiri untuk perjalanan pulang dari ibunya," kata Freida Winfield, yang dalam perjalanan untuk mengambil anaknya Keith dan pelajar lain ketika mereka ditahan, menurut siaran akhbar.

Rantaian Kegagalan Manusia

Tuntutan utama tuntutan mahkamah adalah bahawa kesilapan teknologi telah dikompaun pada setiap langkah berikutnya oleh manusia yang menerimanya. Jawatankuasa Peguam berkata semua orang daripada kakitangan Omnilert sendiri kepada pengetua sekolah kepada pegawai polis Daerah Baltimore terlepas atau tidak mengendahkan apa yang dipanggil bukti jelas bahawa tiada senjata api.

Aduan itu juga menegaskan bahawa pegawai sekolah mengetahui sistem Omnilert kerap mengeluarkan amaran palsu sebelum kejadian - dakwaan bahawa, jika dibicarakan, akan menjadi intipati bagaimana daerah itu mempertimbangkan kebolehpercayaan teknologi terhadap penggunaannya dalam konteks yang dihadapi pelajar.

"Pelajar ini gagal bukan sahaja oleh teknologi yang terdedah kepada amaran palsu, tetapi juga oleh orang dewasa yang bertujuan untuk memastikan mereka selamat apabila kami menghantar mereka ke sekolah," kata Damon Hewitt, presiden dan pengarah eksekutif Jawatankuasa Peguam untuk Hak Sivil Di Bawah Undang-undang. "Daripada perlindungan ini, mereka ditemui dengan senjata api dan trauma. Dan ia mungkin lebih teruk lagi."

Perkara yang Dicari oleh Tuntutan Undang-undang

Selain ganti rugi, Jawatankuasa Peguam menggunakan kes itu untuk mendesak perubahan struktur dalam cara sekolah dan jabatan polis mengendalikan makluman pengesanan ancaman AI. Organisasi itu berkata tuntutan mahkamah itu bertujuan untuk memaksa pembaharuan yang memerlukan pelakon awam untuk mengesahkan laporan daripada platform pengesanan ancaman AI sebelum bertindak balas, untuk menilai sama ada teknologi AI sedemikian sesuai untuk digunakan di sekolah sama sekali, dan untuk membangunkan dasar yang memastikan amaran palsu tidak mencetuskan tindak balas polis bersenjata.

Kumpulan itu juga meminta lebih banyak latihan, pengawasan dan ketelusan mengenai ralat dan hasil, serta input komuniti tentang cara teknologi itu digunakan.

"AI yang tidak terkawal mempunyai akibat yang mendalam, terutamanya apabila melibatkan golongan muda. Memandangkan teknologi ini mendapat penggunaan yang lebih meluas, ia tidak boleh berlaku dengan mengorbankan peraturan yang jelas, pagar dan jangkaan untuk orang dewasa yang berinteraksi dengannya," kata Leah Frazier, pengarah Inisiatif Keadilan Digital di Jawatankuasa Peguam.

Kes Ujian untuk Pengesanan Senjata AI di Sekolah

Kes itu tiba apabila daerah sekolah Amerika semakin mengamalkan pengesanan senjata berkuasa AI, meletakkan sistem penglihatan komputer di pintu masuk dan pada suapan pengawasan atas nama mencegah tembakan sekolah. Jawatankuasa Peguam merangka kepentingan yang lebih luas secara eksplisit, dengan alasan insiden itu menimbulkan kebimbangan tentang kebolehpercayaan teknologi AI dalam tetapan keselamatan awam "di mana ketepatan adalah penting dalam situasi hidup dan mati" — dan menyatakan bahawa bahaya dan ketidaktepatan daripada sistem sedemikian memberi kesan yang tidak seimbang kepada komuniti Kulit Hitam.

Pemerhati undang-undang akan memerhati beberapa soalan yang dibangkitkan oleh aduan itu. Sama ada vendor AI boleh dipertanggungjawabkan untuk prestasi model pengesanannya, sama ada daerah sekolah yang menempatkan mereka berhutang kewajipan pengesahan yang lebih tinggi, dan sama ada pergantungan polis pada amaran automatik tanpa pengesahan bebas melanggar perlindungan perlembagaan terhadap rampasan yang tidak munasabah adalah semua isu langsung yang mahkamah litar Daerah Baltimore kini akan diminta untuk ditimbang.

Bagi empat pelajar di tengah-tengah kes itu - yang masih kanak-kanak apabila pegawai menghunus senjata ke atas mereka di atas makanan ringan - litigasi juga bersifat peribadi. Peguam mereka berkata matlamatnya adalah untuk memastikan tiada pelajar sekali lagi berhadapan dengan polis bersenjata kerana penggera palsu yang semakan manusia boleh ditangkap dalam beberapa saat.

Kes itu akan diteruskan di Mahkamah Litar untuk Baltimore County. Tiada maklum balas awam daripada defendan telah dilaporkan pada masa penulisan.

Sumber: Siaran akhbar Jawatankuasa Peguam untuk Hak Sivil Di Bawah Undang-undang, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →