Seorang hakim Amerika Serikat telah mengeluarkan salah satu keputusan paling penting mengenai penggunaan kecerdasan buatan dalam penegakan hukum, dengan menyatakan bahwa Amandemen Keempat tidak mengizinkan polisi untuk menangkap seseorang hanya berdasarkan kesimpulan AI yang tidak didukung bukti. Keputusan tersebut, yang dikeluarkan dalam gugatan perdata yang diajukan oleh Alain Vizcay Osorio dan dipublikasikan melalui DocumentCloud, menolak upaya seorang detektif untuk mengklaim kekebalan yang memenuhi syarat setelah ia menangkap Osorio karena diduga memberikan cek buruk hanya berdasarkan kecocokan pengenalan wajah — kecocokan yang menurut pengadilan jelas salah. Paragraf pembuka keputusan tersebut menyatakan prinsip tersebut dengan tegas: "Amandemen Keempat Konstitusi Amerika Serikat tidak mengizinkan seorang detektif mendelegasikan tugas untuk menilai kemungkinan penyebabnya kepada AI." Untuk liputan berkelanjutan mengenai kebijakan dan regulasi AI, AI Buzz Wire menelusuri permohonan yang diharapkan akan diikuti oleh banyak orang.
Cek Buruk, Tangkapan Layar CCTV, dan Kecocokan Facebook
Kasus ini dimulai dengan dugaan kejahatan berisiko rendah dan upaya polisi yang rendah. Osorio dituduh memberikan cek kosong di bank lokal, dan satu-satunya gambar tersangka berasal dari rekaman CCTV bank. Detektif Ryan Kilmer dari Departemen Kepolisian Florence, Kentucky mengambil tangkapan layar wajah tersangka dan menjalankannya melalui program pengenalan wajah departemen tersebut. Sistem mengembalikan kecocokan ke profil Facebook milik seseorang yang terdaftar sebagai "Yony Smith Npoles Charon" - dan, karena apa yang oleh pengadilan disebut sebagai "alasan yang tidak diketahui", Kilmer menyimpulkan bahwa profil tersebut milik Osorio.
Foto-foto itu menceritakan kisah yang berbeda. Berdasarkan keputusan tersebut, rekaman CCTV dan gambar profil Facebook "tidak menyerupai foto pemesanan Osorio." Berdasarkan foto pemesanan, pengadilan mengamati, satu-satunya kesamaan Osorio dengan tersangka adalah keduanya adalah pria kulit hitam dengan rambut di wajah; foto-foto tersebut menunjukkan bentuk kepala yang berbeda, potongan rambut yang berbeda, fitur wajah yang berbeda, dan corak yang berbeda.
Pernyataan tertulis Kilmer mengatakan kepada pengadilan bahwa dia telah menggunakan "alat investigasi" untuk "mencocokkan" Osorio dengan tersangka. Pada kenyataannya, hakim menemukan, dia menggunakan satu alat dan menerima hasil yang salah – meskipun kebijakan Florence PD secara eksplisit menyatakan bahwa pengenalan wajah saja tidak cukup untuk menentukan kemungkinan penyebabnya. Detektif tersebut, jelas dalam keputusan tersebut, mengabaikan peraturan tertulis departemennya dan persyaratan dasar Konstitusi bahwa kemungkinan penyebab mencerminkan penilaian manusia yang sebenarnya terhadap bukti.
Apa yang Sebenarnya Diadakan Pengadilan
Bahasa inti keputusan tersebut lebih dari sekadar temuan bahwa detektif ini lalai. Hal ini mengartikulasikan aturan kategoris: "Amandemen Keempat tidak mengizinkan seseorang untuk ditangkap hanya berdasarkan kesimpulan yang tidak didukung oleh AI bahwa individu tersebut telah melakukan kejahatan. Dan tidak ada detektif yang masuk akal dalam posisi Terdakwa yang dapat menyimpulkan sebaliknya."
Kalimat kedua itulah yang mengangkat beban berat. Dengan menyatakan bahwa tidak ada petugas yang dapat mempercayai bahwa pencocokan AI yang tidak didukung bukti sudah cukup, pengadilan menghancurkan fondasi pembelaan kekebalan yang memenuhi syarat, yang umumnya melindungi pejabat dari tanggung jawab perdata kecuali mereka melanggar hak-hak yang telah ditetapkan dengan jelas. Kilmer, menurut pengadilan, tidak dapat bersembunyi di balik doktrin tersebut – karena Amandemen Keempat sendiri melarang tindakannya dan karena kebijakan departemennya sendiri mengatakan kepadanya, secara tertulis, bahwa pengenalan wajah saja tidak dapat menentukan kemungkinan penyebabnya.
Konsekuensi praktisnya adalah bahwa sang detektif harus menghadapi tuntutan hukum secara pribadi, sebuah sikap yang meningkatkan tekanan untuk menyelesaikan kasus tersebut dan membuat peninjauan banding menjadi lebih mungkin dilakukan, karena petugas tersebut kini memiliki kepentingan finansial langsung dalam menantang keputusan tersebut.
Implikasi Yang Menjangkau Jauh Lebih Dari Satu Cek Buruk
Para komentator hukum mencatat bahwa logika keputusan tersebut menyebar ke seluruh pasar AI polisi yang berkembang pesat. Alasan yang sama - bahwa keluaran algoritma bukanlah bukti kemungkinan penyebab sampai manusia secara independen menguatkannya - berlaku dengan kekuatan yang sama untuk:
- Penelusuran pengenalan wajah, termasuk sistem yang mencocokkan gambar diam pengawasan dengan gambar web yang diambil, pola yang menjadi masalah dalam kasus ini.
- Perangkat lunak kepolisian prediktif yang mengarahkan patroli dan interaksi publik berdasarkan perkiraan algoritmik.
- Laporan polisi yang dibuat dengan AI, kini ditambahkan ke kamera tubuh oleh vendor seperti Axon dengan alasan bahwa petugas memilih untuk tidak menuliskannya — menimbulkan pertanyaan apakah narasi penghentian atau penggunaan kekerasan yang dibuat dengan mesin dapat menjadi catatan resmi.
Jika pengadilan menyatakan suatu algoritme tidak dapat menentukan kemungkinan penyebabnya, setiap sistem hilir yang secara diam-diam berasumsi bahwa algoritme tersebut memang membuat penentuan tersebut mewarisi masalahnya. Departemen yang menganggap keluaran AI sebagai jalan pintas investigasi mungkin perlu mendokumentasikan bukti bukti nyata dari manusia sebelum penangkapan, atau mengambil risiko pengecualian bukti dan tanggung jawab pribadi bagi petugas yang terlibat.
Apa yang Terjadi Selanjutnya
Pertanyaan langsungnya adalah banding. Karena kekebalan yang memenuhi syarat ditolak, detektif mempunyai motivasi yang kuat untuk membawa kasus ini ke tingkat yang lebih tinggi, dan pertanyaan konstitusional – apakah dan bagaimana alat AI dapat berpartisipasi dalam penilaian kemungkinan penyebab – adalah jenis masalah yang harus diselesaikan oleh pengadilan banding agar aturan seluas ini dapat dijadikan preseden. Kelompok kebebasan sipil kemungkinan besar akan melakukan intervensi untuk mendukung keputusan tersebut; serikat polisi dan vendor AI kemungkinan akan menolak keputusan tersebut, dengan alasan bahwa keputusan tersebut menyamakan penyelidikan yang ceroboh dengan masalah kebijakan teknologi.
Apa pun yang terjadi, keputusan tersebut menjadi penanda yang dapat dibaca oleh departemen kepolisian saat ini, tanpa menunggu proses banding: keluaran AI adalah petunjuk, bukan kesimpulan. Detektif dalam kasus ini membiarkan algoritme pencocokan wajah yang berpikir, mengabaikan peraturan departemennya sendiri yang melarang hal tersebut, dan kini menghadapi konsekuensinya secara pribadi. Sebagaimana sinyal keputusan itu sendiri, para perumus Konstitusi tidak mengantisipasi adanya jaringan saraf (neural network) – namun persyaratan bahwa manusia harus menilai kemungkinan penyebabnya sebelum negara menangkap seseorang ternyata dapat diterapkan tanpa diperlukan adanya amandemen.
Bagi departemen yang membeli alat AI, pesan yang disampaikan juga sama jelasnya: klaim vendor mengenai keakuratan bukanlah kebijakan. Aturan tertulis yang memerlukan pembuktian manusia – seperti aturan Florence PD, yang diabaikan oleh detektif tersebut – kini bukan sekadar praktik terbaik namun juga pembeda antara departemen yang bertahan dari tuntutan hukum dan petugas yang membayarnya secara pribadi.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →