قانونگذاران کالیفرنیا لایحه 574 سنا را تصویب کردند، اولین قانون ایالتی در نوع خود که قوانین الزام آور را برای نحوه استفاده وکلای دادگستری از هوش مصنوعی مولد در عملکرد خود تعیین می کند - و این قانون اکنون روی میز فرماندار گاوین نیوسام قرار دارد.

این لایحه معروف به دادگاه A.I. قانون حفاظت، این هفته پس از تصویب مجلس سنا در اصلاحیه‌های مجلس در 31 اوت با رای 39-0، قانون‌گذاری را تأیید کرد. این توسط سناتور توماس آمبرگ، یک دموکرات از سانتا آنا که ریاست کمیته قضایی سنا را بر عهده دارد، معرفی شد که دفترش می‌گوید هدف محافظت از افرادی است که خدمات حقوقی دریافت می‌کنند، زیرا ابزارهای هوش مصنوعی در این حرفه گسترش می‌یابند. رویترز این اقدام را اولین قانون ایالتی در نوع خود توصیف کرد که بر استفاده حقوقدانان از هوش مصنوعی مولد حاکم است. با این حال، تا زمانی که Newsom آن را امضا نکند، الزامات آن قانون نیست. برای اطلاعات بیشتر درباره این داستان، [روندهای هوش مصنوعی] (https://aibuzzwire.news) را ببینید.

آنچه SB 574 نیاز دارد

این لایحه در هسته خود یک خط روشن ترسیم می کند: وکلا نمی توانند قانون را به یک سیستم هوش مصنوعی مولد واگذار کنند. وکیلی که از هوش مصنوعی استفاده می کند، مسئولیت کامل کار قانونی تولید شده با آن را بر عهده دارد.

وظایف تأیید دقیق ترین هستند. وکلایی که از هوش مصنوعی مولد استفاده می کنند باید اقدامات معقولی را برای تأیید صحت خروجی - از جمله استنادات موردی و قانونی - و اصلاح مطالب اشتباه یا ساختگی قبل از تکیه بر آن انجام دهند. از این گذشته، هر وکیلی که مسئول کوتاهی، درخواست، دادخواست یا سایر اسناد ثبت شده در دادگاه کالیفرنیا است، باید شخصاً هر استناد موجود در پرونده را، فارغ از منبع آن، تأیید کند. اتکا به ابزار هوش مصنوعی استناد نادرست را توجیه نمی کند.

افشاگری رکن دوم است. وکلای دادگستری باید استفاده از هوش مصنوعی مولد را برای اسنادی که به دادگاه ارسال می‌شود فاش کنند، و کسانی که از هوش مصنوعی برای ایجاد مطالبی که در بین مردم توزیع می‌شود استفاده می‌کنند باید بررسی کنند که آیا استفاده از هوش مصنوعی را افشا کنند یا خیر.

قوانین محرمانگی برای عصر ChatGPT

رکن سوم این لایحه به این موضوع می پردازد که داده های وکلا به کجا می رود. SB 574 وکلای دادگستری را از وارد کردن اطلاعات محرمانه، شناسایی شخصی، یا سایر اطلاعات غیر عمومی به یک سیستم هوش مصنوعی مولد منع می کند، مگر اینکه دسترسی به آن اطلاعات به وکیل و افرادی که وکیل اجازه می دهد و خود موظف به محافظت از محرمانه بودن آن هستند محدود شود.

این ماده مقوله‌های حساس را از نظر دامنه برمی‌شمارد: شماره‌های تامین اجتماعی، تاریخ تولد، سوابق پزشکی و روانپزشکی، اطلاعات مالی، شماره حساب‌ها و آدرس‌ها یا شماره تلفن‌های متعلق به طرفین، شاهدان، قربانیان و کارکنان دادگاه. قابل ذکر است، این لایحه استفاده از سیستم‌های هوش مصنوعی با مطالب محرمانه را کاملاً ممنوع نمی‌کند – آزمون این است که آیا سیستم به اندازه کافی دسترسی به آنچه وارد شده را محدود می‌کند یا خیر.

چرا قانونگذاران اقدام کردند

این قانون به قابل مشاهده ترین حالت شکست هوش مصنوعی در دادگاه پاسخ می دهد: اقتدار توهم. مدل‌های زبانی بزرگ می‌توانند در حین اختراع پرونده‌ها، نقل‌قول‌ها و قوانین، پاسخ‌هایی ارائه دهند که معتبر به نظر می‌رسند، و دادگاه‌ها در سراسر کشور وکلایی را که با استناد به مقامات قانونی ساختگی تولید شده توسط هوش مصنوعی گزارش‌های مختصری ارائه کرده‌اند، تحریم کرده‌اند.

نگرانی های مربوط به حریم خصوصی نیز در کنار آن افزایش یافته است. در اوایل سال جاری، قاضی ناحیه ایالات متحده، جد راکوف در نیویورک، در ایالات متحده علیه هپنر حکم داد که مکالمات خودگردان یک متهم جنایتکار با کلود آنتروپیک توسط امتیاز وکیل-مشتری یا دکترین محصول کاری محافظت نمی شود - تا حدی به این دلیل که متهم اطلاعات را به یک پلتفرم AI شخص ثالث افشا کرده است. اگرچه این پرونده به جای یک وکیل شامل یک مشتری بود، اما نشان می‌دهد که اطلاعات حقوقی حساس هنگام ورود به سیستم‌های هوش مصنوعی شخص ثالث با آن مواجه می‌شوند.

کالیفرنیا قبلاً از طریق راهنمایی حرفه ای با این سؤالات درگیر شده است. وکلای ایالتی کالیفرنیا راهنمای عملی خود را برای استفاده از هوش مصنوعی مولد در اجرای قانون در ماه مه 2026 به روز کرد که شایستگی، محرمانه بودن، نظارت، ارتباطات مشتری و صراحت در دادگاه را پوشش می دهد. دادگاه عالی کالیفرنیا در سال 2025 به وکلای ایالتی دستور داد تا اصول مرتبط با هوش مصنوعی را در قوانین رفتار حرفه ای لحاظ کند، با تغییرات پیشنهادی در دست بررسی که مسئولیت وکلا را هم در مورد آنچه در سیستم های هوش مصنوعی و هم آنچه که منتشر می شود روشن می کند. SB 574 چندین مورد از این مفاهیم را از دستورالعمل به قانون منتقل می کند.

فراتر از وکلا: داوران و قضات

این لایحه فراتر از وکلا می رسد. داوران از واگذاری هر بخشی از مسئولیت های تصمیم گیری خود به هوش مصنوعی مولد منع می شوند و نمی توانند به اطلاعات تولید شده توسط هوش مصنوعی خارج از سوابق شواهد بدون افشای استفاده از آن برای طرفین و در صورت عملی، فرصت پاسخگویی به آنها اعتماد کنند. این اقدام همچنین شورای قضایی کالیفرنیا را ملزم می کند که استانداردهای خود را در مورد استفاده قضایی از هوش مصنوعی مولد با توسعه فناوری بازبینی کند.

بعد چه اتفاقی می افتد

نیوسام هنوز به این لایحه عمل نکرده است و تصمیم او فراتر از کالیفرنیا مورد توجه قرار خواهد گرفت. قدرت بازار این ایالت آن را به تنظیم کننده واقعی صنعت هوش مصنوعی تبدیل کرده است - قانون شفافیت SB 53 آن برای مدل های مرزی در سال 2025 امضا شد - و فرمانداری که در گذشته ارتقای هوش مصنوعی و احتیاط هوش مصنوعی را متعادل کرده بود، اکنون تصمیم می گیرد که آیا استفاده از هوش مصنوعی حرفه ای به یک وظیفه قانونی برای بزرگترین جمعیت وکیل کشور تبدیل شود یا خیر.

در صورت امضا، SB 574 مسیری میانی را آزمایش می‌کند که سایر ایالت‌ها احتمالاً آن را مطالعه می‌کنند: کالیفرنیا به جای ممنوعیت هوش مصنوعی در عمل قانونی، استفاده از آن را به تعهدات موجود این حرفه - تأیید، صراحت و محرمانگی - ملزم می‌کند و وکیل، نه ابزار، مسئولیت را بر عهده می‌گیرد.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →