Penggubal undang-undang California telah meluluskan Rang Undang-undang Senat 574, undang-undang negeri pertama seumpamanya yang menetapkan peraturan mengikat tentang cara peguam boleh menggunakan kecerdasan buatan generatif dalam amalan mereka — dan langkah itu kini diletakkan di atas meja Gabenor Gavin Newsom.
Rang undang-undang itu, yang dikenali sebagai Mahkamah A.I. Akta Perlindungan, membersihkan Badan Perundangan minggu ini selepas Senat bersetuju dalam pindaan Dewan pada 31 Ogos dengan undian 39-0. Ia diperkenalkan oleh Senator Thomas Umberg, seorang Demokrat dari Santa Ana yang mempengerusikan Jawatankuasa Kehakiman Senat, yang pejabatnya mengatakan matlamatnya adalah untuk melindungi orang yang menerima perkhidmatan undang-undang kerana alat AI tersebar melalui profesion. Reuters menyifatkan langkah itu sebagai undang-undang negeri pertama seumpamanya yang mengawal penggunaan AI generatif peguam. Sehingga Newsom menandatanganinya, bagaimanapun, keperluannya bukan undang-undang. Untuk lebih banyak konteks tentang cerita ini, lihat [trend AI] kami yang berterusan (https://aibuzzwire.news).
Apa yang SB 574 Perlukan
Pada terasnya, rang undang-undang itu menarik garis terang: peguam tidak boleh mewakilkan amalan undang-undang kepada sistem AI generatif. Seorang peguam yang menggunakan AI tetap bertanggungjawab sepenuhnya terhadap kerja undang-undang yang dihasilkan dengannya.
Tugas pengesahan adalah yang paling konkrit. Peguam yang menggunakan AI generatif mesti mengambil langkah yang munasabah untuk mengesahkan ketepatan output — termasuk petikan kes dan berkanun — dan membetulkan bahan yang salah atau rekaan sebelum bergantung padanya. Melangkah lebih jauh, mana-mana peguam yang bertanggungjawab untuk surat ringkas, usul, pengakuan, atau kertas lain yang difailkan dengan mahkamah California perlu mengesahkan secara peribadi setiap petikan dalam pemfailan, tidak kira sumbernya. Pergantungan pada alat AI tidak akan memaafkan petikan palsu.
Pendedahan adalah tonggak kedua. Peguam perlu mendedahkan penggunaan AI generatif kepada mahkamah untuk dokumen yang diserahkan kepadanya, dan mereka yang menggunakan AI untuk mencipta bahan yang diedarkan kepada orang ramai perlu mempertimbangkan sama ada untuk mendedahkan penggunaannya.
Peraturan Kerahsiaan untuk Era ChatGPT
Tiang ketiga rang undang-undang itu menangani ke mana data peguam pergi. SB 574 akan melarang peguam daripada memasukkan maklumat sulit, pengenalan peribadi atau maklumat bukan awam lain ke dalam sistem AI generatif melainkan akses kepada maklumat tersebut dihadkan kepada peguam dan kepada orang yang diberi kuasa oleh peguam yang bertanggungjawab untuk melindungi kerahsiaannya.
Peruntukan itu menyenaraikan kategori sensitif dalam skop: Nombor Keselamatan Sosial, tarikh lahir, rekod perubatan dan psikiatri, maklumat kewangan, nombor akaun, dan alamat atau nombor telefon milik pihak, saksi, mangsa dan kakitangan mahkamah. Terutama sekali, rang undang-undang itu tidak melarang penggunaan sistem AI dengan bahan sulit secara langsung — ujiannya ialah sama ada sistem itu menyekat akses kepada apa yang dimasukkan dengan secukupnya.
Mengapa Penggubal Undang-undang Bertindak
Perundangan itu bertindak balas kepada mod kegagalan AI yang paling ketara dalam bilik mahkamah: kuasa halusinasi. Model bahasa yang besar boleh menghasilkan jawapan yang kelihatan berwibawa semasa mencipta kes, petikan dan statut, dan mahkamah di seluruh negara telah membenarkan peguam yang memfailkan taklimat memetik pihak berkuasa undang-undang rekaan yang dihasilkan oleh AI.
Kebimbangan privasi telah berkembang bersama. Pada awal tahun ini, Hakim Daerah A.S. Jed Rakoff di New York memutuskan dalam Amerika Syarikat lwn. Heppner bahawa perbualan yang diarahkan sendiri oleh defendan jenayah dengan Claude Anthropic tidak dilindungi oleh keistimewaan peguam-klien atau doktrin produk kerja — sebahagiannya kerana defendan telah mendedahkan maklumat kepada platform AI pihak ketiga. Walaupun kes itu melibatkan klien dan bukannya peguam, ia menggambarkan pendedahan yang dihadapi oleh maklumat undang-undang sensitif apabila dimasukkan ke dalam sistem AI pihak ketiga.
California telah pun terlibat dengan soalan-soalan ini melalui bimbingan profesional. State Bar of California mengemas kini Panduan Praktikal untuk Penggunaan Kecerdasan Buatan Generatif dalam Amalan Undang-undang pada Mei 2026, meliputi kecekapan, kerahsiaan, penyeliaan, komunikasi pelanggan dan kejujuran kepada mahkamah. Mahkamah Agung California mengarahkan Badan Peguam Negara pada tahun 2025 untuk mempertimbangkan untuk memasukkan prinsip berkaitan AI ke dalam Peraturan Kelakuan Profesional, dengan cadangan perubahan yang sedang dipertimbangkan yang akan menjelaskan tanggungjawab peguam untuk kedua-dua perkara yang masuk ke dalam sistem AI dan perkara yang keluar. SB 574 memindahkan beberapa konsep tersebut daripada panduan kepada statut.
Melangkaui Peguam: Penimbangtara dan Hakim
Rang undang-undang menjangkau lebih jauh daripada peguam. Penimbangtara akan dilarang daripada mewakilkan mana-mana bahagian daripada tanggungjawab membuat keputusan mereka kepada AI generatif, dan tidak boleh bergantung pada maklumat yang dijana AI di luar rekod keterangan tanpa terlebih dahulu mendedahkan penggunaannya kepada pihak-pihak dan, apabila praktikal, memberi mereka peluang untuk bertindak balas. Langkah itu juga memerlukan Majlis Kehakiman California menyemak semula piawaiannya yang mengawal penggunaan kehakiman AI generatif semasa teknologi berkembang.
Apa Yang Berlaku Seterusnya
Newsom belum lagi bertindak ke atas rang undang-undang itu, dan keputusannya akan diperhatikan jauh di luar California. Kuasa pasaran negeri telah menjadikannya pengawal selia de facto industri AI — undang-undang ketelusan SB 53 untuk model sempadan telah ditandatangani pada tahun 2025 — dan seorang gabenor yang mempunyai promosi AI yang seimbang dan berhati-hati AI pada masa lalu kini memutuskan sama ada penggunaan AI profesional menjadi tugas berkanun untuk populasi peguam terbesar negara itu.
Jika ditandatangani, SB 574 akan menguji jalan tengah yang mungkin dikaji oleh negeri lain: daripada melarang AI dalam amalan undang-undang, California akan mengikat penggunaannya pada kewajipan sedia ada profesion — pengesahan, kejujuran dan kerahsiaan — dengan peguam, bukan alat, dibiarkan memegang tanggungjawab.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
