Các nhà lập pháp California đã thông qua Dự luật Thượng viện 574, một đạo luật đầu tiên của tiểu bang đặt ra các quy tắc ràng buộc về cách các luật sư có thể sử dụng trí tuệ nhân tạo tổng hợp trong hoạt động của họ - và biện pháp này hiện đang được Thống đốc Gavin Newsom xem xét.
Dự luật, được gọi là Tòa án A.I. Đạo luật Bảo vệ, đã được Cơ quan lập pháp thông qua trong tuần này sau khi Thượng viện đồng tình với các sửa đổi của Quốc hội vào ngày 31 tháng 8 bằng số phiếu 39-0. Nó được giới thiệu bởi Thượng nghị sĩ Thomas Umberg, một đảng viên Đảng Dân chủ đến từ Santa Ana, chủ tịch Ủy ban Tư pháp Thượng viện, người có văn phòng cho biết mục tiêu là bảo vệ những người nhận dịch vụ pháp lý khi các công cụ AI lan rộng trong ngành. Reuters mô tả biện pháp này là luật tiểu bang đầu tiên thuộc loại này quản lý việc sử dụng AI sáng tạo của luật sư. Tuy nhiên, cho đến khi Newsom ký, các yêu cầu của nó không phải là luật. Để biết thêm bối cảnh về câu chuyện này, hãy xem Xu hướng AI đang diễn ra của chúng tôi.
Những gì SB 574 yêu cầu
Về cốt lõi, dự luật vạch ra một ranh giới rõ ràng: luật sư không thể ủy thác việc thực hành luật cho một hệ thống AI có tính sáng tạo. Luật sư sử dụng AI vẫn hoàn toàn chịu trách nhiệm về công việc pháp lý được thực hiện bằng AI.
Nhiệm vụ xác minh là cụ thể nhất. Các luật sư sử dụng AI tổng hợp phải thực hiện các bước hợp lý để xác minh tính chính xác của kết quả đầu ra - bao gồm các trích dẫn trường hợp và theo luật định - cũng như sửa tài liệu sai sót hoặc bịa đặt trước khi dựa vào đó. Đi xa hơn, bất kỳ luật sư nào chịu trách nhiệm về một bản tóm tắt, kiến nghị, bào chữa hoặc giấy tờ khác nộp cho tòa án California sẽ phải đích thân xác minh mọi trích dẫn trong hồ sơ, bất kể nguồn gốc của nó. Việc phụ thuộc vào công cụ AI sẽ không tha cho một trích dẫn sai.
Công bố thông tin là trụ cột thứ hai. Các luật sư sẽ cần tiết lộ việc sử dụng AI tạo ra cho tòa án đối với các tài liệu được gửi tới tòa án và những người sử dụng AI để tạo ra tài liệu được phân phối cho công chúng sẽ phải xem xét liệu có tiết lộ việc sử dụng nó hay không.
Quy tắc bảo mật cho kỷ nguyên ChatGPT
Trụ cột thứ ba của dự luật đề cập đến dữ liệu của luật sư. SB 574 sẽ cấm luật sư nhập thông tin bí mật, nhận dạng cá nhân hoặc thông tin không công khai khác vào hệ thống AI tổng hợp trừ khi quyền truy cập vào thông tin đó bị hạn chế đối với luật sư và những người mà luật sư ủy quyền, những người có nghĩa vụ bảo vệ tính bảo mật của thông tin đó.
Điều khoản này liệt kê các danh mục nhạy cảm trong phạm vi: Số An sinh xã hội, ngày sinh, hồ sơ y tế và tâm thần, thông tin tài chính, số tài khoản và địa chỉ hoặc số điện thoại của các bên, nhân chứng, nạn nhân và nhân viên tòa án. Đáng chú ý, dự luật không cấm hoàn toàn việc sử dụng hệ thống AI với tài liệu bí mật - bài kiểm tra là liệu hệ thống có hạn chế đầy đủ quyền truy cập vào những gì được nhập hay không.
Tại sao các nhà lập pháp lại hành động
Luật pháp ứng phó với dạng thất bại dễ thấy nhất của AI trong phòng xử án: quyền lực bị ảo giác. Các mô hình ngôn ngữ lớn có thể tạo ra các câu trả lời có vẻ có thẩm quyền trong khi phát minh ra các trường hợp, trích dẫn và quy chế, đồng thời các tòa án trên khắp đất nước đã xử phạt các luật sư đã nộp bản tóm tắt trích dẫn các cơ quan pháp lý hư cấu do AI tạo ra.
Mối quan tâm về quyền riêng tư cũng tăng lên cùng với đó. Đầu năm nay, Thẩm phán quận Hoa Kỳ Jed Rakoff ở New York đã ra phán quyết trong vụ United States kiện Heppner rằng các cuộc trò chuyện tự định hướng của bị cáo hình sự với Claude của Anthropic không được bảo vệ bởi đặc quyền luật sư-khách hàng hoặc học thuyết về sản phẩm công việc - một phần vì bị cáo đã tiết lộ thông tin cho nền tảng AI của bên thứ ba. Mặc dù trường hợp đó liên quan đến khách hàng chứ không phải luật sư, nhưng nó minh họa sự phơi bày mà thông tin pháp lý nhạy cảm phải đối mặt khi được nhập vào hệ thống AI của bên thứ ba.
California đã tham gia giải quyết những câu hỏi này thông qua hướng dẫn chuyên môn. Đoàn Luật sư Tiểu bang California đã cập nhật Hướng dẫn Thực hành về Sử dụng Trí tuệ Nhân tạo Sáng tạo trong Thực hành Luật vào tháng 5 năm 2026, bao gồm năng lực, tính bảo mật, giám sát, giao tiếp với khách hàng và sự thẳng thắn trước tòa. Tòa án Tối cao California đã chỉ đạo Thanh tra Tiểu bang vào năm 2025 xem xét việc kết hợp các nguyên tắc liên quan đến AI vào Quy tắc ứng xử nghề nghiệp, với những thay đổi được đề xuất đang được xem xét nhằm làm rõ trách nhiệm của luật sư đối với cả những gì đi vào hệ thống AI và những gì đưa ra. SB 574 chuyển một số khái niệm đó từ hướng dẫn thành quy chế.
Ngoài Luật sư: Trọng tài và Thẩm phán
Dự luật còn vươn xa hơn luật sư. Trọng tài viên sẽ bị cấm giao bất kỳ phần trách nhiệm ra quyết định nào của họ cho AI tổng hợp và không thể dựa vào thông tin do AI tạo ra bên ngoài hồ sơ chứng cứ mà không tiết lộ trước việc sử dụng thông tin đó cho các bên và, khi thực tế, cho họ cơ hội phản hồi. Biện pháp này cũng yêu cầu Hội đồng Tư pháp California xem xét lại các tiêu chuẩn quản lý việc sử dụng AI tổng hợp của tòa án khi công nghệ này phát triển.
Điều gì xảy ra tiếp theo
Newsom vẫn chưa hành động theo dự luật và quyết định của ông sẽ được theo dõi kỹ ở ngoài California. Sức mạnh thị trường của bang đã biến bang này thành cơ quan quản lý trên thực tế của ngành AI — luật minh bạch SB 53 dành cho các mô hình biên giới đã được ký kết vào năm 2025 — và một thống đốc trước đây đã cân bằng giữa việc quảng bá AI và sự thận trọng về AI giờ đây sẽ quyết định liệu việc sử dụng AI chuyên nghiệp có trở thành vấn đề nghĩa vụ theo luật định đối với nhóm luật sư lớn nhất đất nước hay không.
Nếu được ký, SB 574 sẽ thử nghiệm một con đường trung gian mà các tiểu bang khác có thể nghiên cứu: thay vì cấm AI trong hành nghề pháp lý, California sẽ ràng buộc việc sử dụng nó với các nghĩa vụ hiện có của nghề nghiệp - xác minh, trung thực và bảo mật - với luật sư, chứ không phải công cụ, chịu trách nhiệm.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
