Mahkamah Agung New Mexico telah membenarkan seorang peguam untuk memfailkan rayuan pembunuhan yang dibina berdasarkan saksi yang tidak pernah wujud — yang dibuat secara borong oleh ChatGPT — dalam salah satu contoh paling nyata tentang "halusinasi" kecerdasan buatan yang sampai ke tengah-tengah sistem keadilan Amerika.
Menurut laporan dari Reuters, mahkamah tertinggi negeri itu mendenda peguam Santa Fe Stephen Aarons $5,000 dan menghinanya kerana gagal "mengesahkan tuntutan fakta dan kuasa undang-undang dalam ringkasan yang dijana AInya." Ringkas itu, yang dikemukakan sebagai sebahagian daripada rayuan terhadap sabitan pembunuhan anak guamnya, "mengandungi keterangan palsu daripada saksi yang direka sepenuhnya," bersama-sama dengan dakwaan palsu tentang pakaian dan penampilan penembak. Untuk lebih banyak konteks tentang cerita ini, lihat [berita AI terbaharu] kami yang berterusan (https://aibuzzwire.news).
Perkara yang Ditemui oleh Mahkamah
Pemfailan mahkamah tidak menggambarkan ketidaktepatan kecil. Ia menerangkan dokumen rayuan yang menyihir orang ramai: keterangan yang dikaitkan dengan saksi yang tidak wujud, dan mencipta kenyataan polis tentang pakaian yang dipakai oleh penembak dan rupa penembak — tepat sekali jenis butiran fakta yang boleh dihidupkan oleh sabitan pembunuhan.
Menurut The Verge, yang melaporkan mengenai pemfailan mahkamah, sekatan itu dikenakan kerana Aarons gagal "mengesahkan tuntutan fakta dan kuasa undang-undang dalam ringkasan yang dijana AInya" sebelum menyerahkannya kepada mahkamah. Dalam erti kata lain, masalahnya bukanlah kerana seorang peguam menggunakan alat AI untuk membantu merangka. Ia adalah bahawa peguam memfailkan output tanpa menyemak satu tuntutan palsu terhadap rekod perbicaraan sebenar.
"Nasihat, Adakah Anda Menonton Berita?"
Sifat luar biasa kes itu muncul pada perbicaraan Ogos, di mana Aarons mengakui dia telah menggunakan ChatGPT dan memberitahu mahkamah dia telah menjangkakan chatbot itu menghasilkan "ringkasan kalis peluru" perbicaraan. Jangkaan itu mendapat respons tegas daripada Hakim Mahkamah Agung New Mexico C. Shannon Bacon.
"Penasihat, adakah anda menonton berita? Adakah anda mendengar radio? Adakah anda membaca apa-apa tentang apa yang berlaku di dunia?" Bacon bertanya, menurut Reuters. "Kerana masalah dengan peguam bergantung pada halusinasi AI adalah cerita di atas setiap hari."
Teguran hakim menunjukkan sejauh mana petikan dan keterangan rekaan AI telah beralih daripada masalah teknikal khusus kepada liabiliti profesional arus perdana — yang kini diandaikan oleh hakim setiap peguam yang mengamalkan perlu tahu tentangnya.
Terkini dalam Rentetan Sekatan AI
Kes New Mexico adalah yang terbaru dalam senarai mahkamah yang berkembang pesat yang menghukum peguam kerana penggunaan AI yang tidak disekat. Tahun lalu, seorang hakim membidas dua firma guaman kerana mengemukakan taklimat yang mengandungi "banyak petikan dan petikan undang-undang palsu, tidak tepat dan mengelirukan," manakala peguam yang mewakili pengasas MyPillow, Mike Lindell juga didenda kerana memasukkan salah petikan dan petikan palsu yang dijana oleh AI dalam pemfailan mahkamah, kata The Verge.
Apa yang membezakan sekatan New Mexico ialah bahan yang diada-adakan. Kebanyakan kes terdahulu melibatkan petikan undang-undang ciptaan — preseden palsu, petikan palsu daripada kes sebenar. Di sini, pemalsuan pergi ke fakta sendiri: saksi, keterangan dan keterangan bukti fizikal dalam rayuan jenayah. Perbezaan itu penting, kerana pemalsuan fakta dalam kes pembunuhan menyerang teras perkara yang perlu dilindungi oleh semakan rayuan.
Garis arah aliran tidak dapat disangkal. Seperti yang diperhatikan The Verge, dengan bilangan peguam yang menggunakan alat AI dalam kerja mereka semakin meningkat, begitu juga keadaan di mana mahkamah menemui petikan yang direka - atau dikhayalkan - oleh AI. Apa yang pernah dianggap sebagai pengawasan yang memalukan semakin dihukum sebagai kegagalan kecekapan profesional, dengan denda, keputusan penghinaan, dan penelitian daripada pihak berkuasa tatatertib.
"Saya Menyesal"
Aarons, bagi pihaknya, memberitahu Reuters bahawa dia berharap kejatuhan itu berhenti daripada disiplin profesional. “Saya kesal tetapi berharap lembaga disiplin mengambil kira ia adalah satu kesilapan yang jujur,” katanya dalam satu kenyataan.
Sama ada lembaga tatatertib menganggapnya sebagai satu kesilapan yang jujur masih belum dapat dilihat, tetapi mahkamah tertinggi negeri itu telah membuat pandangannya sendiri dengan jelas: denda $5,000 dan penghinaan menahan ringkasan yang tidak pernah disahkan terhadap realiti.
Mengapa Ia Penting
Kes itu berlaku apabila mahkamah di seluruh negara mengeraskan pendirian mereka mengenai penggunaan AI dalam litigasi. Hakim semakin memerlukan peguam untuk mengesahkan bahawa pemfailan yang dijana AI telah disahkan, dan sekatan telah menjadi mekanisme penguatkuasaan yang boleh dilihat. Mesej daripada Mahkamah Agung New Mexico berkemungkinan mengembara jauh di luar sempadannya: kewajipan untuk mengesahkan adalah peribadi, tidak boleh diwakilkan dan tidak hilang kerana chatbot menghasilkan prosa yang terdengar yakin.
Bagi profesion undang-undang, pengiraan berubah. Alat penggubalan AI boleh menjimatkan berjam-jam kerja, tetapi seorang saksi rekaan dalam ringkasan yang difailkan kini boleh dikenakan denda, keputusan penghinaan dan rujukan kepada pihak berkuasa tatatertib — segelintir pengamal perdagangan akan mendapati menarik. Bagi orang lain, kes ini adalah peringatan bahawa orang yang dimaksudkan untuk menyemak output AI berada di bawah tekanan yang lebih tinggi berbanding sebelum ini untuk benar-benar menyemaknya.
Pertaruhan paling tinggi dalam kes jenayah. Sekatan ke atas petikan palsu membuang masa kehakiman; bukti rekaan dalam rayuan pembunuhan menyentuh mekanisme yang menentukan sama ada sabitan itu kekal. Mahkamah rayuan hanya boleh menimbang tuntutan yang berlabuh pada rekod sebenar — dan pilihan ringkas dengan saksi hantu meminta hakim memutuskan peristiwa yang tidak pernah berlaku.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
