加州通过 SB 574，这是美国首个针对律师使用人工智能的规则

参议院以 39 比 0 的投票结果后，加州 SB 574 法案将提交州长纽瑟姆，要求律师核实人工智能引用、披露人工智能使用情况并保护客户数据。

加州立法者已经批准了参议院第 574 号法案，这是首部此类州法律，为律师在执业中如何使用生成人工智能制定了具有约束力的规则，该法案现已提交州长加文·纽瑟姆 (Gavin Newsom) 的办公桌上。

该法案被称为“Court A.I.”在参议院于 8 月 31 日以 39 比 0 的投票结果同意议会修正案后，《保护法》于本周在立法机关获得通过。它是由参议院司法委员会主席、来自圣安娜的民主党参议员托马斯·乌姆伯格（Thomas Umberg）提出的，该委员会的办公室表示，随着人工智能工具在整个行业的传播，其目标是保护接受法律服务的人们。路透社称该措施是首个管理律师使用生成人工智能的此类州法律。然而，在纽瑟姆签署之前，其要求还不是法律。有关此故事的更多背景信息，请参阅我们正在进行的 AI 趋势。

SB 574 要求什么

该法案的核心划出了一条明确的界限：律师不能将法律实践委托给生成式人工智能系统。使用人工智能的律师仍然对其所产生的法律工作负全部责任。

核查职责是最具体的。使用生成式人工智能的律师必须采取合理的措施来验证输出的准确性（包括案例和法定引文），并在依赖之前纠正错误或捏造的材料。更进一步，任何负责向加州法院提交的摘要、动议、诉状或其他文件的律师都必须亲自核实文件中的每一条引文，无论其来源如何。对人工智能工具的依赖并不能成为错误引用的借口。

信息披露是第二个支柱。律师需要向法院披露生成式人工智能的使用情况，以获取向法院提交的文件，而那些使用人工智能创建分发给公众的材料的人则必须考虑是否披露其使用情况。

ChatGPT时代的保密规则

该法案的第三个支柱解决了律师数据的去向。 SB 574 将禁止律师将机密、个人身份或其他非公开信息输入生成人工智能系统，除非该信息的访问仅限于律师和律师授权的人，而这些人本身有义务保护其机密性。

该条款列举了范围内的敏感类别：社会安全号码、出生日期、医疗和精神病记录、财务信息、账号以及属于当事人、证人、受害者和法院工作人员的地址或电话号码。值得注意的是，该法案并没有完全禁止使用包含机密材料的人工智能系统——测试的是系统是否充分限制了对输入内容的访问。

立法者为何采取行动

该立法回应了人工智能在法庭上最明显的失败模式：幻觉权威。大型语言模型可以在发明案例、引文和法规时产生看起来具有权威性的答案，全国各地的法院都对提交案情书引用人工智能生成的虚构法律权威的律师进行了制裁。

隐私问题也随之增加。今年早些时候，纽约美国地区法官杰德·拉考夫 (Jed Rakoff) 在“美国诉赫普纳”一案中裁定，刑事被告与 Anthropic 的克劳德的自主对话不受律师-委托人特权或工作产品原则的保护，部分原因是被告向第三方人工智能平台披露了信息。尽管该案涉及的是客户而不是律师，但它说明了敏感法律信息在进入第三方人工智能系统时面临的暴露情况。

加州已经通过专业指导解决了这些问题。加利福尼亚州律师协会于 2026 年 5 月更新了《在法律实践中使用生成式人工智能的实用指南》，涵盖能力、保密、监督、客户沟通和对法庭的坦诚。加州最高法院于 2025 年指示州律师协会考虑将人工智能相关原则纳入《职业行为规则》，并正在考虑拟议的修改，以明确律师对人工智能系统的输入和输出的责任。 SB 574 将其中几个概念从指南转变为法规。