Anggota parlemen California telah menyetujui RUU Senat 574, undang-undang negara bagian pertama yang menetapkan aturan mengikat tentang bagaimana pengacara dapat menggunakan kecerdasan buatan generatif dalam praktik mereka – dan undang-undang tersebut kini berada di meja Gubernur Gavin Newsom.
RUU tersebut, yang dikenal sebagai Pengadilan A.I. Undang-undang Perlindungan, disahkan oleh Badan Legislatif minggu ini setelah Senat menyetujui amandemen Majelis pada tanggal 31 Agustus dengan pemungutan suara 39-0. Hal ini diperkenalkan oleh Senator Thomas Umberg, seorang Demokrat dari Santa Ana yang mengetuai Komite Kehakiman Senat, yang menurut kantornya tujuannya adalah untuk melindungi orang-orang yang menerima layanan hukum ketika alat AI menyebar ke seluruh profesi. Reuters mengkarakterisasi tindakan tersebut sebagai undang-undang negara bagian pertama yang mengatur penggunaan AI generatif oleh pengacara. Namun, sampai Newsom menandatanganinya, persyaratannya bukanlah undang-undang. Untuk konteks lebih lanjut mengenai kisah ini, lihat tren AI kami yang sedang berlangsung.
Apa yang Dibutuhkan SB 574
Pada intinya, RUU ini memberikan garis terang: pengacara tidak dapat mendelegasikan praktik hukum ke sistem AI generatif. Seorang pengacara yang menggunakan AI tetap bertanggung jawab penuh atas pekerjaan hukum yang dihasilkan dengannya.
Tugas verifikasi adalah yang paling konkrit. Pengacara yang menggunakan AI generatif harus mengambil langkah-langkah yang wajar untuk memverifikasi keakuratan hasil – termasuk kutipan kasus dan undang-undang – dan memperbaiki materi yang salah atau dibuat-buat sebelum mengandalkannya. Lebih jauh lagi, pengacara mana pun yang bertanggung jawab atas laporan singkat, mosi, pembelaan, atau dokumen lain yang diajukan ke pengadilan California harus memverifikasi secara pribadi setiap kutipan dalam pengajuan, apa pun sumbernya. Ketergantungan pada alat AI tidak akan membenarkan adanya kutipan yang salah.
Keterbukaan adalah pilar kedua. Pengacara perlu mengungkapkan penggunaan AI generatif ke pengadilan untuk dokumen yang diserahkan kepadanya, dan mereka yang menggunakan AI untuk membuat materi yang didistribusikan ke publik harus mempertimbangkan apakah akan mengungkapkan penggunaannya.
Aturan Kerahasiaan untuk Era ChatGPT
Pilar ketiga RUU ini membahas kemana perginya data pengacara. SB 574 akan melarang pengacara memasukkan informasi rahasia, identitas pribadi, atau informasi non-publik lainnya ke dalam sistem AI generatif kecuali akses terhadap informasi tersebut dibatasi hanya untuk pengacara dan orang yang diberi kuasa oleh pengacara yang wajib melindungi kerahasiaannya.
Ketentuan ini menyebutkan kategori-kategori sensitif dalam cakupannya: Nomor Jaminan Sosial, tanggal lahir, catatan medis dan psikiatris, informasi keuangan, nomor rekening, dan alamat atau nomor telepon milik para pihak, saksi, korban, dan petugas pengadilan. Khususnya, RUU ini tidak melarang penggunaan sistem AI dengan materi rahasia – yang menjadi ujian adalah apakah sistem tersebut cukup membatasi akses terhadap materi yang dimasukkan.
Mengapa Anggota Parlemen Bertindak
Undang-undang ini merupakan respons terhadap modus kegagalan AI yang paling terlihat di ruang sidang: otoritas yang berhalusinasi. Model bahasa besar dapat menghasilkan jawaban yang tampak berwibawa saat menciptakan kasus, kutipan, dan undang-undang, dan pengadilan di seluruh negeri telah memberikan sanksi kepada pengacara yang mengajukan laporan dengan mengutip otoritas hukum fiktif yang dihasilkan oleh AI.
Masalah privasi juga semakin meningkat. Awal tahun ini, Hakim Distrik AS Jed Rakoff di New York memutuskan dalam kasus United States v. Heppner bahwa percakapan mandiri terdakwa kriminal dengan Claude dari Anthropic tidak dilindungi oleh hak istimewa pengacara-klien atau doktrin produk kerja — sebagian karena terdakwa telah mengungkapkan informasi ke platform AI pihak ketiga. Meskipun kasus tersebut melibatkan klien dan bukan pengacara, hal ini menggambarkan paparan yang dihadapi informasi hukum sensitif ketika dimasukkan ke dalam sistem AI pihak ketiga.
California telah menangani pertanyaan-pertanyaan ini melalui bimbingan profesional. State Bar of California memperbarui Panduan Praktis Penggunaan Kecerdasan Buatan Generatif dalam Praktik Hukum pada Mei 2026, yang mencakup kompetensi, kerahasiaan, pengawasan, komunikasi klien, dan keterbukaan di pengadilan. Mahkamah Agung California mengarahkan State Bar pada tahun 2025 untuk mempertimbangkan memasukkan prinsip-prinsip terkait AI ke dalam Aturan Perilaku Profesional, dengan usulan perubahan yang sedang dipertimbangkan yang akan memperjelas tanggung jawab pengacara atas apa yang masuk ke dalam sistem AI dan apa yang keluar. SB 574 memindahkan beberapa konsep tersebut dari pedoman menjadi undang-undang.
Beyond Attorneys: Arbiter dan Hakim
RUU ini menjangkau lebih dari sekedar pengacara. Arbiter dilarang mendelegasikan sebagian tanggung jawab pengambilan keputusan mereka kepada AI generatif, dan tidak boleh mengandalkan informasi yang dihasilkan AI di luar catatan pembuktian tanpa terlebih dahulu mengungkapkan penggunaannya kepada para pihak dan, jika memungkinkan, memberi mereka kesempatan untuk memberikan tanggapan. Langkah ini juga mengharuskan Dewan Yudisial California untuk meninjau kembali standar-standar yang mengatur penggunaan AI generatif secara yudisial seiring dengan berkembangnya teknologi.
Apa yang Terjadi Selanjutnya
Newsom belum menindaklanjuti RUU tersebut, dan keputusannya akan diawasi jauh di luar California. Kekuatan pasar yang dimiliki negara bagian ini menjadikan negara ini sebagai regulator de facto industri AI – undang-undang transparansi SB 53 untuk model frontier ditandatangani pada tahun 2025 – dan seorang gubernur yang pernah menyeimbangkan promosi AI dan kewaspadaan terhadap AI kini memutuskan apakah penggunaan AI secara profesional menjadi kewajiban hukum bagi populasi pengacara terbesar di negara tersebut.
Jika ditandatangani, SB 574 akan menguji jalan tengah yang kemungkinan besar akan dipelajari oleh negara-negara lain: daripada melarang AI dalam praktik hukum, California akan mengikat penggunaannya dengan kewajiban profesi yang ada – verifikasi, keterusterangan, dan kerahasiaan – dengan pengacara, bukan alatnya, yang tetap memegang tanggung jawab.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
