Seorang hakim Amerika Syarikat telah menyampaikan salah satu keputusan yang paling berbangkit mengenai penggunaan kecerdasan buatan dalam penguatkuasaan undang-undang, berpendapat bahawa Pindaan Keempat tidak membenarkan polis menangkap seseorang berdasarkan tidak lebih daripada kesimpulan AI yang tidak disokong. Keputusan itu, yang dikeluarkan dalam saman sivil yang dibawa oleh Alain Vizcay Osorio dan diterbitkan melalui DocumentCloud, menolak percubaan seorang detektif untuk menuntut kekebalan yang layak selepas dia menangkap Osorio kerana didakwa melepasi cek buruk semata-mata berdasarkan padanan pengecaman muka — perlawanan yang didapati oleh mahkamah adalah jelas salah. Perenggan pembukaan keputusan itu menyatakan prinsip dengan tegas: "Pindaan Keempat kepada Perlembagaan Amerika Syarikat tidak membenarkan seorang detektif mewakilkan kepada AI tugas menilai kemungkinan sebab." Untuk liputan berterusan dasar dan peraturan AI, AI Buzz Wire menjejaki rayuan yang dijangkakan ramai untuk diikuti.
Pemeriksaan Buruk, Tangkapan Skrin CCTV dan Padanan Facebook
Kes itu bermula dengan dakwaan jenayah rendah dan kerja polis yang rendah. Osorio dituduh memberikan cek buruk di sebuah bank tempatan, dan satu-satunya imej suspek adalah daripada rakaman CCTV bank itu. Detektif Ryan Kilmer dari Jabatan Polis Florence, Kentucky mengambil tangkapan skrin muka suspek dan menjalankannya melalui program pengecaman muka jabatan itu. Sistem itu mengembalikan padanan ke profil Facebook milik seseorang yang disenaraikan sebagai "Yony Smith Npoles Charon" — dan, atas apa yang mahkamah panggil sebagai "sebab yang tidak diketahui," Kilmer membuat kesimpulan bahawa profil itu adalah milik Osorio.
Gambar-gambar itu menceritakan kisah yang berbeza. Menurut keputusan itu, rakaman CCTV dan imej profil Facebook "tidak menyerupai foto tempahan Osorio." Berdasarkan foto tempahan, mahkamah memerhatikan, satu-satunya persamaan Osorio dengan suspek ialah kedua-duanya lelaki kulit hitam berbulu muka; foto menunjukkan bentuk kepala yang berbeza, potongan rambut yang berbeza, ciri muka yang berbeza dan warna kulit yang berbeza.
Afidavit Kilmer memberitahu mahkamah dia telah menggunakan "alat penyiasatan" untuk "memadankan" Osorio dengan suspek. Pada hakikatnya, hakim mendapati, dia menggunakan satu alat dan menerima outputnya yang rosak — walaupun dasar Florence PD dengan jelas menyatakan bahawa pengecaman muka sahaja tidak mencukupi untuk mewujudkan sebab yang berkemungkinan. Detektif itu, jelas keputusan itu, mengabaikan kedua-dua peraturan bertulis jabatannya dan keperluan garis dasar Perlembagaan yang kemungkinan penyebabnya mencerminkan penilaian manusia sebenar terhadap bukti.
Apa Yang Dipegang Sebenarnya Mahkamah
Bahasa teras keputusan itu melangkaui penemuan bahawa detektif ini cuai. Ia menyatakan peraturan kategorikal: "Pindaan Keempat tidak membenarkan seseorang individu ditangkap berdasarkan tidak lebih daripada kesimpulan yang tidak disokong oleh AI bahawa individu berkenaan telah melakukan jenayah. Dan tiada detektif yang munasabah dalam kedudukan Defendan boleh membuat kesimpulan sebaliknya."
Ayat kedua itu memang berat. Dengan menyatakan bahawa tiada pegawai yang munasabah boleh mempercayai perlawanan AI yang tidak disokong sudah memadai, mahkamah merobohkan asas pertahanan imuniti yang layak, yang secara amnya melindungi pegawai daripada liabiliti sivil melainkan mereka melanggar hak yang telah ditetapkan dengan jelas. Kilmer, yang dipegang oleh mahkamah, tidak boleh bersembunyi di sebalik doktrin itu — kedua-duanya kerana Pindaan Keempat itu sendiri melarang apa yang dia lakukan dan kerana dasar jabatannya sendiri memberitahunya, secara bertulis, bahawa pengecaman muka sahaja tidak boleh mewujudkan sebab yang berkemungkinan.
Akibat praktikal ialah detektif menghadapi tuntutan mahkamah secara peribadi, postur yang kedua-duanya meningkatkan tekanan untuk menyelesaikan dan membuat semakan rayuan lebih berkemungkinan, kerana pegawai itu kini mempunyai kepentingan kewangan langsung dalam mencabar keputusan itu.
Implikasi yang Menjangkau Jauh Melebihi Satu Pemeriksaan Buruk
Pengulas undang-undang menyatakan bahawa logik keputusan itu terpancar ke luar merentasi pasaran yang berkembang pesat untuk AI polis. Alasan yang sama — bahawa output algoritma bukanlah bukti kemungkinan sebab sehingga manusia secara bebas mengesahkannya — terpakai dengan daya yang sama untuk:
- Carian pengecaman muka, termasuk sistem yang sepadan dengan pegun pengawasan terhadap imej web yang dikikis, corak yang dipertikaikan dalam kes ini.
- Perisian kepolisan ramalan yang mengarahkan rondaan dan interaksi awam berdasarkan ramalan algoritma.
- Laporan polis yang dijana oleh AI, kini ditambah pada kamera badan oleh vendor seperti Axon atas premis bahawa pegawai memilih untuk tidak menulisnya — menimbulkan persoalan sama ada naratif yang digubal mesin tentang hentian atau penggunaan kekerasan boleh membentuk rekod rasmi.
Jika mahkamah mengatakan algoritma tidak boleh membuat penentuan sebab berkemungkinan, setiap sistem hiliran yang secara senyap menganggap algoritma itu telah membuat penentuan itu mewarisi masalah. Jabatan yang telah menganggap output AI sebagai jalan pintas penyiasatan mungkin perlu mendokumenkan pengesahan manusia yang tulen sebelum ditangkap, atau mengambil risiko kedua-dua pengecualian bukti dan liabiliti peribadi untuk pegawai yang terlibat.
Apa Yang Akan Datang
Soalan segera ialah rayuan. Oleh kerana imuniti yang layak telah dinafikan, detektif mempunyai motivasi yang kuat untuk membawa kes ini ke atas, dan persoalan perlembagaan - sama ada dan bagaimana alat AI boleh mengambil bahagian dalam penilaian kemungkinan sebab - adalah jenis isu yang mahkamah rayuan perlu menyelesaikan peraturan seluas ini untuk mengeras menjadi preseden. Kumpulan kebebasan awam berkemungkinan campur tangan menyokong keputusan itu; kesatuan polis dan vendor AI berkemungkinan akan menolak, dengan alasan bahawa keputusan itu menggabungkan penyiasatan ceroboh dengan masalah dasar teknologi.
Walau apa pun, keputusan itu menetapkan penanda yang boleh dibaca oleh jabatan polis hari ini, tanpa menunggu kitaran rayuan: Output AI adalah petunjuk, bukan kesimpulan. Detektif dalam kes ini membiarkan algoritma pemadanan muka berfikir, mengabaikan peraturan jabatannya sendiri terhadap perkara itu, dan kini menghadapi akibatnya secara peribadi. Seperti yang ditandakan oleh keputusan itu sendiri, penggubal Perlembagaan tidak menjangkakan rangkaian saraf — tetapi keperluan bahawa manusia menilai kemungkinan sebab sebelum negara merampas seseorang ternyata menterjemah tanpa sebarang pindaan diperlukan.
Untuk jabatan membeli-belah alat AI, mesej adalah sama langsung: dakwaan vendor tentang ketepatan bukan dasar. Peraturan bertulis yang memerlukan pengesahan manusia — seperti Florence PD, yang diabaikan oleh detektif itu — kini bukan sekadar amalan terbaik tetapi perbezaan antara jabatan yang bertahan dalam tuntutan mahkamah dan pegawai yang membayarnya secara peribadi.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →