Mahkamah Agung New Mexico telah memberikan sanksi kepada seorang pengacara karena mengajukan banding pembunuhan yang didasarkan pada saksi-saksi yang tidak pernah ada – yang dibuat-buat oleh ChatGPT – dalam salah satu contoh paling nyata dari “halusinasi” kecerdasan buatan yang mencapai jantung sistem peradilan Amerika.
Menurut laporan dari Reuters, pengadilan tertinggi di negara bagian tersebut mendenda pengacara Santa Fe Stephen Aarons sebesar $5.000 dan menghina dia karena gagal "memverifikasi klaim faktual dan otoritas hukum dalam laporan yang dibuat oleh AI." Laporan tersebut, yang diajukan sebagai bagian dari upaya banding terhadap hukuman pembunuhan kliennya, "berisi kesaksian palsu dari para saksi yang sepenuhnya dibuat-buat," bersama dengan klaim palsu tentang pakaian dan penampilan penembak. Untuk konteks lebih lanjut mengenai cerita ini, lihat berita AI terkini.
Apa yang Ditemukan Pengadilan
Pengajuan pengadilan tidak menjelaskan ketidakakuratan kecil. Dokumen tersebut menggambarkan sebuah dokumen banding yang membuat orang terkejut: kesaksian yang diberikan kepada para saksi yang tidak ada, dan pernyataan polisi yang dibuat-buat tentang apa yang dikenakan oleh penembak dan bagaimana penampilan penembaknya – persis seperti detail faktual yang dapat dihasilkan oleh hukuman pembunuhan.
Menurut The Verge, yang melaporkan pengajuan ke pengadilan, sanksi tersebut dijatuhkan karena Aarons gagal "memverifikasi klaim faktual dan otoritas hukum dalam laporan yang dibuat oleh AI" sebelum menyerahkannya ke pengadilan. Dengan kata lain, masalahnya bukanlah seorang pengacara menggunakan alat AI untuk membantu penyusunan draf. Pengacara tersebut mengajukan keluaran tanpa memeriksa satu pun klaim yang dibuat-buat terhadap catatan persidangan yang sebenarnya.
"Penasihat, Apakah Anda Menonton Berita?"
Sifat luar biasa dari kasus ini muncul pada sidang bulan Agustus, di mana Aarons mengakui bahwa dia telah menggunakan ChatGPT dan mengatakan kepada pengadilan bahwa dia mengharapkan chatbot tersebut menghasilkan "ringkasan antipeluru" dari persidangan tersebut. Harapan tersebut mendapat tanggapan tajam dari Hakim Agung New Mexico C. Shannon Bacon.
"Counsel, apakah Anda menonton berita? Apakah Anda mendengarkan radio? Apakah Anda membaca sesuatu tentang apa yang terjadi di dunia?" Bacon bertanya, menurut Reuters. "Karena masalah pengacara yang mengandalkan halusinasi AI adalah cerita yang terungkap setiap hari."
Teguran hakim menunjukkan sejauh mana kutipan dan kesaksian yang dibuat oleh AI telah berubah dari masalah teknis khusus menjadi tanggung jawab profesional umum – yang menurut hakim harus diketahui oleh setiap pengacara yang berpraktik.
Yang Terbaru dari Serangkaian Sanksi AI
Kasus di New Mexico adalah kasus terbaru dalam daftar pengadilan yang menghukum pengacara karena penggunaan AI yang tidak terkendali. Tahun lalu, seorang hakim mengecam dua firma hukum karena menyerahkan laporan singkat yang berisi "banyak kutipan dan kutipan hukum yang salah, tidak akurat, dan menyesatkan," sementara pengacara yang mewakili pendiri MyPillow Mike Lindell juga didenda karena memasukkan salah kutipan dan kutipan palsu yang dihasilkan AI dalam pengajuan pengadilan, The Verge mencatat.
Yang membedakan sanksi New Mexico adalah bahan yang dibuat. Sebagian besar kasus sebelumnya melibatkan kutipan resmi yang dibuat-buat — preseden palsu, kutipan palsu dari kasus nyata. Di sini, pemalsuan mengarah pada fakta-fakta itu sendiri: saksi, kesaksian, dan uraian bukti fisik dalam banding pidana. Pembedaan ini penting, karena pemalsuan fakta dalam kasus pembunuhan merupakan inti dari perlindungan peninjauan banding.
Garis tren tidak salah lagi. Seperti yang diamati oleh The Verge, seiring dengan meningkatnya jumlah pengacara yang menggunakan alat AI dalam pekerjaannya, pengadilan juga menemukan kutipan yang dibuat – atau dihalusinasi – oleh AI. Apa yang tadinya dianggap sebagai kekhilafan yang memalukan kini semakin dihukum sebagai kegagalan kompetensi profesional, berupa denda, putusan yang menghina, dan pengawasan ketat dari otoritas disipliner.
"Saya Menyesal"
Aarons, pada bagiannya, mengatakan kepada Reuters bahwa dia berharap dampak buruk ini tidak berhenti pada disiplin profesional. "Saya menyesal namun berharap dewan disiplin mempertimbangkan bahwa ini adalah kesalahan yang jujur," katanya dalam sebuah pernyataan.
Masih harus dilihat apakah dewan disiplin menganggap hal ini sebagai sebuah kesalahan yang jujur, namun pengadilan tertinggi di negara bagian tersebut telah memperjelas pandangannya: denda sebesar $5.000 dan penghinaan terhadap laporan yang tidak pernah diverifikasi kebenarannya.
Mengapa Itu Penting
Kasus ini muncul ketika pengadilan di seluruh negeri memperkuat posisi mereka terhadap penggunaan AI dalam litigasi. Hakim semakin mewajibkan pengacara untuk menyatakan bahwa pengajuan yang dibuat oleh AI telah diverifikasi, dan sanksi telah menjadi mekanisme penegakan hukum yang nyata. Pesan dari Mahkamah Agung New Mexico kemungkinan besar akan menyebar melampaui batas negaranya: tugas untuk memverifikasi bersifat pribadi, tidak dapat didelegasikan, dan tidak akan hilang hanya karena chatbot menghasilkan prosa yang terdengar percaya diri.
Bagi profesi hukum, perhitungannya mengalami pergeseran. Alat perancangan AI dapat menghemat jam kerja, namun satu saksi yang dibuat-buat dalam laporan yang diajukan kini dapat dikenakan denda, putusan penghinaan, dan rujukan ke otoritas disipliner – suatu hal yang menurut segelintir praktisi akan menarik. Bagi semua orang, kasus ini merupakan pengingat bahwa orang-orang yang dimaksudkan untuk memeriksa keluaran AI berada di bawah tekanan yang lebih besar dari sebelumnya untuk benar-benar memeriksanya.
Taruhannya paling tinggi dalam kasus kriminal. Sanksi atas kutipan palsu membuang-buang waktu peradilan; bukti palsu dalam banding pembunuhan menyentuh mekanisme yang memutuskan apakah suatu hukuman tetap berlaku. Pengadilan banding hanya dapat mempertimbangkan klaim yang didasarkan pada catatan nyata – dan laporan singkat yang berisi saksi hantu meminta hakim untuk memutuskan peristiwa yang tidak pernah terjadi.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
