Komite Pengacara untuk Hak-Hak Sipil Berdasarkan Hukum mengajukan gugatan pada tanggal 18 November 2026, atas nama empat siswa berkulit hitam saat ini dan mantan siswa Sekolah Menengah Kenwood di Baltimore County, Maryland, setelah sistem pendeteksi senjata AI salah mengira salah satu tas keripik mereka sebagai senjata api dan polisi bersenjata menahan dan menggeledah remaja tersebut di kampus.

Gugatan tersebut, yang diajukan di Pengadilan Sirkuit untuk Baltimore County, menyebut nama terdakwa Omnilert, LLC – pembuat sistem Deteksi Senjata Omnilert yang digunakan di seluruh Sekolah Umum Baltimore County – bersama dengan Sekolah Umum dan personel Baltimore County, Departemen Kepolisian Baltimore County, dan petugas individu. Ini menuduh pelanggaran hak-hak konstitusional federal dan negara bagian siswa serta kelalaian dan kelalaian besar. For more context on this story, see our ongoing artificial intelligence updates.

Yang Terjadi di Bulan Oktober 2025

Menurut Komite Pengacara, insiden tersebut bermula ketika Omnilert Gun Detect – sistem pengawasan AI yang diterapkan di seluruh sekolah di wilayah tersebut – menghasilkan peringatan yang menandai sekantong keripik remaja sebagai senjata api dengan kemungkinan 90 persen. Sistem telah salah mengira tas Doritos yang dibawa oleh salah satu siswa sebagai senjata.

Peringatan palsu tersebut memicu respons yang berakhir dengan polisi bersenjata setempat mengerumuni para remaja di kampus, hanya beberapa langkah dari pintu masuk sekolah. Para siswa diperintahkan berlutut, diborgol, dan digeledah, kata organisasi itu. The New York Times, The Guardian, NBC News, CBS News, dan Baltimore Sun semuanya melaporkan gugatan tersebut dan insiden mendasarnya, yang telah menarik perhatian nasional terhadap deteksi senjata berbasis AI di sekolah.

"Polisi memberi tahu anak saya bahwa ini bisa menjadi masalah nyata. Tidak ada anak di Baltimore County yang harus menghadapi bahaya seperti ini saat menunggu di luar sekolahnya untuk diantar pulang dari ibunya," kata Freida Winfield, yang sedang dalam perjalanan untuk menjemput putranya Keith dan siswa lainnya ketika mereka ditahan, menurut siaran pers.

Rantai Kegagalan Manusia

Klaim utama dari gugatan tersebut adalah bahwa kesalahan teknologi diperparah oleh manusia yang menerimanya pada setiap langkah berikutnya. Komite Pengacara mengatakan semua orang mulai dari staf Omnilert, kepala sekolah, hingga petugas polisi Baltimore County melewatkan atau mengabaikan apa yang mereka sebut sebagai bukti jelas bahwa tidak ada senjata.

Pengaduan tersebut juga menegaskan bahwa pejabat sekolah mengetahui bahwa sistem Omnilert secara teratur menghasilkan peringatan palsu sebelum kejadian tersebut – sebuah klaim yang, jika diajukan ke pengadilan, akan menjadi inti dari bagaimana pemerintah daerah mempertimbangkan keandalan teknologi dibandingkan penerapannya dalam konteks yang dihadapi siswa.

“Para siswa ini tidak hanya dikecewakan oleh teknologi yang rentan terhadap peringatan palsu, namun juga oleh orang dewasa yang dimaksudkan untuk menjaga mereka tetap aman ketika kami mengirim mereka ke sekolah,” kata Damon Hewitt, presiden dan direktur eksekutif Komite Pengacara untuk Hak-Hak Sipil di Bawah Hukum. "Alih-alih mendapatkan perlindungan ini, mereka malah dilempari senjata dan mengalami trauma. Dan keadaannya bisa lebih buruk lagi."

Apa yang Dicari Gugatan

Selain ganti rugi, Komite Pengacara juga menggunakan kasus ini untuk mendorong perubahan struktural dalam cara sekolah dan departemen kepolisian menangani peringatan deteksi ancaman AI. Organisasi tersebut mengatakan bahwa gugatan tersebut bertujuan untuk memaksa reformasi yang mengharuskan aktor publik untuk memverifikasi laporan dari platform pendeteksi ancaman AI sebelum memberikan tanggapan, untuk mengevaluasi apakah teknologi AI tersebut sesuai untuk digunakan di sekolah, dan untuk mengembangkan kebijakan yang memastikan peringatan palsu tidak memicu respons polisi bersenjata.

Kelompok ini juga menyerukan lebih banyak pelatihan, pengawasan dan transparansi seputar kesalahan dan hasil, ditambah masukan dari masyarakat tentang bagaimana teknologi tersebut diterapkan.

“AI yang tidak diatur mempunyai konsekuensi yang besar, terutama ketika melibatkan generasi muda. Karena teknologi ini semakin banyak diadopsi, hal ini tidak dapat terjadi dengan mengorbankan peraturan yang jelas, batasan, dan harapan bagi orang dewasa yang berinteraksi dengannya,” kata Leah Frazier, direktur Inisiatif Keadilan Digital di Komite Pengacara.

Uji Kasus Deteksi Senjata AI di Sekolah

Kasus ini muncul ketika distrik sekolah di Amerika semakin mengadopsi deteksi senjata bertenaga AI, menempatkan sistem visi komputer di pintu masuk dan pada saluran pengawasan demi mencegah penembakan di sekolah. Komite Pengacara merumuskan pertaruhan yang lebih luas secara eksplisit, dengan alasan bahwa insiden tersebut menimbulkan kekhawatiran mengenai keandalan teknologi AI dalam lingkungan keselamatan publik “di mana akurasi sangat penting dalam situasi hidup dan mati” – dan mencatat bahwa kerugian dan ketidakakuratan dari sistem tersebut berdampak secara tidak proporsional pada komunitas Kulit Hitam.

Pengamat hukum akan mengamati beberapa pertanyaan yang diajukan dalam pengaduan tersebut. Apakah vendor AI dapat dimintai pertanggungjawaban atas kinerja model pendeteksiannya, apakah distrik sekolah yang menerapkan model tersebut harus melakukan verifikasi yang lebih tinggi, dan apakah ketergantungan polisi pada peringatan otomatis tanpa pembuktian independen melanggar perlindungan konstitusional terhadap penyitaan yang tidak masuk akal, semuanya merupakan masalah nyata yang sekarang akan diminta untuk dipertimbangkan oleh pengadilan wilayah Baltimore County.

Bagi empat siswa yang menjadi pusat kasus ini – yang masih anak-anak ketika petugas menodongkan senjata ke arah mereka saat makan camilan – proses hukumnya juga bersifat pribadi. Pengacara mereka mengatakan tujuannya adalah untuk memastikan tidak ada siswa lagi yang berhadapan dengan polisi bersenjata karena alarm palsu yang bisa ditangkap oleh pemeriksaan manusia dalam hitungan detik.

Kasus ini akan dilanjutkan di Pengadilan Wilayah Baltimore County. Tidak ada tanggapan publik dari para terdakwa yang dilaporkan pada saat penulisan artikel ini.

Sumber: Siaran pers Komite Pengacara untuk Hak-Hak Sipil Berdasarkan Hukum, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →