カリフォルニア州の議員らは上院法案574号を承認した。これは弁護士が実務で生成人工知能をどのように利用できるかについて拘束力のある規則を定める初めての州法であり、この法案は現在ギャビン・ニューサム知事の机上に置かれている。

この法案は、裁判所 A.I. として知られています。保護法は、上院が8月31日に39対0の投票で議会修正案に同意した後、今週議会を通過した。これは、上院司法委員会の委員長を務めるサンタアナ出身の民主党員トーマス・アンバーグ上院議員によって導入されたもので、同氏の事務所は、AIツールが専門家に普及するにつれて法律サービスを受ける人々を保護することが目標だと述べている。ロイターはこの法案を、弁護士による生成型AIの使用を規定するこの種の最初の州法であると特徴づけた。しかし、ニューサムが署名するまでは、その要件は法律ではない。このストーリーの詳細については、現在進行中の AI トレンド をご覧ください。

SB 574 の要件

この法案の中核には、明確な一線が引かれている。それは、弁護士が法律実務を生成AIシステムに委任することはできないというものだ。 AI を使用する弁護士は、AI を使用して作成された法的業務に対して全責任を負います。

検証義務は最も具体的です。生成 AI を使用する弁護士は、それに依存する前に、出力 (判例や法定の引用を含む) の正確性を検証し、誤った資料や捏造された資料を修正するための合理的な手順を踏む必要があります。さらに言えば、カリフォルニア州の裁判所に提出された準備書面、申し立て、嘆願書、その他の書類を担当する弁護士は、出典が何であれ、提出書類内のすべての引用を個人的に検証する必要がある。 AI ツールへの依存は虚偽の引用を許すものではありません。

2つ目の柱はディスクロージャーです。弁護士は法廷に提出された書類について生成型AIの使用を開示する必要があり、一般に配布される資料の作成にAIを使用している弁護士は、その使用を開示するかどうかを検討する必要がある。

ChatGPT 時代の機密保持ルール

この法案の 3 番目の柱は、弁護士のデータの行き先について言及しています。 SB 574は、その情報へのアクセスが弁護士と、その秘密を守る義務がある弁護士が許可した人物に制限されていない限り、弁護士が機密情報、個人識別情報、またはその他の非公開情報を生成AIシステムに入力することを禁止する。

この条項では、社会保障番号、生年月日、医療記録および精神医学的記録、財務情報、口座番号、当事者、証人、被害者、裁判所職員の住所または電話番号など、機密性の高いカテゴリーが列挙されています。注目すべきは、この法案は機密資料を含む AI システムの使用を完全に禁止するものではなく、テストされるのは、システムが入力された内容へのアクセスを適切に制限するかどうかです。

議員が行動した理由

この法案は、法廷における AI の最も目に見える失敗モードである幻覚権威に対応するものです。大規模な言語モデルは、訴訟、引用、法令をでっち上げる際に権威があるように見える回答を生成することができ、全国の裁判所は、AIによって生成された架空の法的権威を引用して準備書面を提出した弁護士を制裁している。

それに伴いプライバシーへの懸念も高まっています。今年初め、ニューヨークの連邦地方判事ジェド・レイコフは、米国対ヘプナー事件で、刑事被告人とアンスロピック社のクロード氏との自主的な会話は、弁護士・依頼者特権や成果物法理によって保護されないとの判決を下した。その理由の一部は、被告がサードパーティのAIプラットフォームに情報を開示したためである。この事件には弁護士ではなく依頼者が関与していましたが、機密の法的情報がサードパーティの AI システムに入力されると危険にさらされる可能性があることを示しています。

カリフォルニア州はすでに専門家の指導を通じてこれらの疑問に取り組んでいます。カリフォルニア州弁護士は、2026 年 5 月に、法律実務における生成型人工知能の使用に関する実践ガイダンスを更新し、能力、機密保持、監督、クライアントとのコミュニケーション、法廷での率直さをカバーしました。カリフォルニア州最高裁判所は2025年に州弁護士に対し、AI関連の原則を職業行動規則に組み込むことを検討するよう指示し、AIシステムに入る内容と出てくる内容の両方に対する弁護士の責任を明確にする変更案が検討されている。 SB 574 は、これらの概念のいくつかをガイダンスから法令に移しました。

弁護士を超えて: 仲裁人および裁判官

この法案は弁護士の範囲を超えている。仲裁人は、意思決定の責任のいかなる部分も生成型 AI に委任することを禁じられ、証拠記録以外で AI が生成した情報に依存することは、まず当事者にその用途を明らかにし、実際的な場合には回答の機会を与えることはできません。この措置はまた、カリフォルニア州司法評議会に対し、テクノロジーの発展に合わせて生成AIの司法利用を管理する基準を再検討することも求めている。

次に何が起こるか

ニューサム氏はまだこの法案に基づいて行動を起こしていないが、彼の決断はカリフォルニアを超えて注目されるだろう。同州の市場支配力により、同州はAI業界の事実上の規制当局となっており（フロンティアモデルに関する透明性法SB 53は2025年に署名されている）、これまでAI推進とAI警戒のバランスを保ってきた知事が、今回、国内最大の弁護士人口にとって専門的なAI利用が法定義務事項となるかどうかを決定することになった。

SB 574が署名されれば、他の州が研究する可能性が高い中道をテストすることになる。カリフォルニア州は法律実務でAIを禁止するのではなく、AIの使用を専門職の既存の義務（検証、率直さ、守秘義務）に縛り付け、ツールではなく弁護士が責任を負うことになる。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→