ニューメキシコ州最高裁判所は、人工知能の「幻覚」がアメリカの司法制度の中枢にまで達した最も明らかな例の一つとして、ChatGPTによって大々的に捏造された、存在しない証人に基づいて殺人を上訴したとして弁護士を制裁した。

ロイター通信の報道によると、同州最高裁判所はサンタフェの弁護士スティーブン・アーロンズに対し、「AIが作成した準備書面における事実の主張と法的権限の検証」を怠ったとして侮辱罪で5,000ドルの罰金を科したという。依頼者の殺人有罪判決に対する控訴の一環として提出された準備書面には、銃撃犯の服装や容姿に関する虚偽の主張とともに、「完全に捏造された証人による虚偽の証言が含まれていた」という。このストーリーの詳細については、現在進行中の 最新 AI ニュース をご覧ください。

裁判所が認定した内容

裁判所の提出書類には軽微な誤りについては記載されていない。それは、人々をどこからともなく呼び起こした控訴文書について説明していた。証言は存在しない目撃者によるものであり、銃撃犯が何を着ていたか、銃撃犯がどのような外見をしていたのかについての警察の声明をでっち上げたものであり、まさに殺人有罪判決が裏付ける事実の詳細である。

裁判所への提出を報じたThe Vergeによると、アーロンズ氏が裁判所に提出する前に「AIが生成した準備書面の事実上の主張と法的権限の確認」を怠ったために制裁が課されたという。言い換えれば、問題は弁護士が起草を支援するためにAIツールを使用したことではなかった。それは、弁護士が一つの捏造された請求を実際の裁判記録と照合せずに出力を提出したということでした。

「弁護士、ニュースを見ますか?」

この事件の異常な性質は8月の公聴会で明らかになり、アーロンズ氏はChatGPTを使用したことを認め、チャットボットが裁判の「完全な要約」を作成してくれると期待していたと法廷で述べた。この期待に対して、ニューメキシコ州最高裁判所判事 C. シャノン・ベーコンは鋭い反応を示した。

「弁護士、あなたはニュースを見ますか？ラジオを聞きますか？世界で何が起こっているかについて何か読んだりしますか？」ロイター通信によると、ベーコン氏は尋ねた。 「AIの幻覚に依存する弁護士の問題は、毎日のように目に見えない話になっているからです。」

判事の叱責は、AIによって捏造された引用や証言がニッチな技術的問題から主流の職業上の責任へとどの程度移行しているかを捉えたものであり、裁判官は現在、すべての現役弁護士が知っておくべきものであると想定している。

一連の AI 制裁の最新情報

ニューメキシコ州の訴訟は、AIの野放しな使用を理由に弁護士を罰する裁判所のリストが急速に増えているものの最新のものである。昨年、裁判官は「多数の虚偽、不正確、誤解を招く法律上の引用や引用」を含む準備書面を提出したとして2つの法律事務所を非難し、一方、マイピロー創設者マイク・リンデルの代理人弁護士も、裁判所への提出書類にAIが生成した誤った引用や偽の引用を含めたとして罰金刑を科されたとザ・バージは報じた。

ニューメキシコ州の制裁を際立たせているのは、捏造された内容だ。以前の訴訟のほとんどには、でっち上げられた法的​​引用、つまり偽の判例、実際の訴訟からの偽の引用が含まれていました。ここでは、捏造は事実そのもの、つまり刑事控訴における証人、証言、物的証拠の記述に及んだ。殺人事件における事実捏造は、控訴審が何を守るために存在するかという核心に当たるものであるため、この区別は重要である。

トレンドラインは間違いありません。 The Verge が指摘したように、業務で AI ツールを使用する弁護士の数が増加するにつれ、AI によって捏造された、または幻覚を起こした引用を裁判所が発見する例も増えています。かつては恥ずかしい見落としとして扱われていたことが、罰金、侮辱判決、懲戒当局からの監視など、職業能力の欠如としてますます罰せられるようになっている。

##「後悔しています」

アーロンズ氏はロイターに対し、専門的な規律を超えて影響が及ぶことを望むと語った。同氏は声明で「反省しているが、懲戒委員会が正直な間違いだったことを考慮してくれることを期待している」と述べた。

懲戒委員会がこれを正直な間違いとして扱うかどうかはまだ分からないが、州最高裁判所は既に独自の見解を明らかにしており、5,000ドルの罰金と、現実と照らし合わせて検証されていない準備書面に対する侮辱罪というものだ。

なぜそれが重要なのか

この訴訟は、全国の裁判所が訴訟における AI の使用に関する立場を強化している中で起こった。裁判官は弁護士に対し、AIが生成した申請が検証されたことを証明するよう求めることが増えており、制裁が目に見える執行メカニズムとなっている。ニューメキシコ州最高裁判所からのメッセージは、国境をはるかに越えて伝わる可能性が高い。検証義務は個人的なもので、委任することはできず、チャットボットが自信に満ちた散文を生成したからといって消えるものではない。

法律専門家にとって、計算は変化しつつあります。 AI 製図ツールは何時間もの作業を節約できるが、提出された準備書面で 1 人の捏造証人がいると、罰金、侮辱判決、懲戒当局への送致が科せられる可能性があり、この取引に魅力を感じる実務家はほとんどいないだろう。他の人たちにとって、この事件は、AI の出力をチェックするはずだった人々が実際にチェックするというこれまで以上のプレッシャーにさらされていることを思い出させるものです。

刑事事件では賭け金が最も高くなります。偽の引用に対する制裁は司法時間を無駄にする。殺人控訴における捏造された証拠は、有罪判決が成立するかどうかを決定するメカニズムに影響を与える。控訴裁判所は、実際の記録に基づいた主張のみを比較検討することができます。そして、幻の証人がシードされた準備書面は、決して起こらなかった出来事について判決を下すよう裁判官に求めています。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→