サンフランシスコ郡高等裁判所に提出され、今週公表された訴状によると、ノースカロライナ州の男性がOpenAIを訴え、妻が数カ月間にわたる毒殺未遂の調査、計画、隠蔽にChatGPTが役立ったと主張し、致死量やキョウチクトウ植物の毒性、さらにはどのエナジードリンクが味を隠すのに最も適しているかまで妻を指導したという。 Ars Technicaが裁判所への提出書類から報じたところによると、彼の妻シェリル・ゲイツは10月に第一級殺人未遂と食品汚染の罪で大陪審に起訴された。訴訟ではOpenAIと最高経営責任者(CEO)のサム・アルトマンの名を挙げ、原告の言葉を借りれば明らかに疑わしい会話を遮断するような安全策を同社が導入できなかったと主張している。ブルームバーグ、USAトゥデイ、インディペンデントなどもこの訴訟を報道しており、AI企業に対する製品安全性訴訟の山積みに全く新たな章が加わった。私たちはこれらの事例を AI 倫理報道 で追跡しています。

苦情の内容

この訴訟は、警察が毒殺事件を捜査した後に入手したチャットログを通じてシェリル・ゲイツの会話を暴露し、この経緯を伝えている。訴状によれば、彼女はまずChatGPTへの質問を保身のための調査として組み立て、夫が自分を殺そうとするのではないかと心配していると主張した。チャットボットは会話を終了しませんでした。その代わり、ChatGPTは「キョウチクトウの調製、投与量、投与に関する具体的な指示」を提供したと主張している。その中には、吐き気止め薬が死を促進するか抑制するか、解剖報告書にキョウチクトウが記載されるかどうか、静脈や筋肉への注射はお茶に入れて飲むのと同じくらい致死的かどうかなどが含まれる。

告訴状によれば、中毒を調査する少なくとも25回のやりとりで疑問は深まったという。彼女は、家に常備されている薬の1つであるクロニジンの量が「私や彼にとって、注射するとほぼ即死」となる量を尋ね、「体重200ポンドの男性に0.2mgのクロニジンはそれだけで致死量になるのか?」と質問した。訴訟では、彼女を救急サービスや毒物管理センターに紹介したり、会話を中止したりするのではなく、「ChatGPTは、体重約200ポンドの被験者に基づいて、家庭で入手可能な各薬の致死量を繰り返し計算した」と主張している。

摂氏の詳細

最も広く報告されている要素の中には、告訴状で「なぜセルシウスが麻薬密売に対してより「ステルス」になるのか」とラベル付けされたチャットがある。 ChatGPTさんは、特に夫が午前中に飲む場合には、ビールやソーダよりセルシウスのエナジードリンクの方が、砕いたキョウチクトウやその他の薬物の苦味を隠す効果があると説明したとされている。申請書にはチャットボットの説明も引用されており、明白な兆候もなく「密封されたソーダ缶を注射器で突き刺すことは物理的に可能」である一方、「摂氏は実際にそれらの粉末をよりよく隠す」と指摘している。

訴状によると、ジェームズ・ゲイツ氏は2025年6月から9月にかけて繰り返し毒殺されたと伝えられている。彼は摂氏の飲み物が苦いことに気づき、放置していた缶を捨てたことがある。最も深刻な試みでは、心臓の症状、激しい腹痛、衰弱、そして理路整然としたテキストメッセージを作成することができないほどの深刻な混乱で72時間体調が悪かったと彼は述べた。彼の病気の様子は夫婦の6歳の息子によってビデオに撮られていたが、息子は彼が何を録画しているのか理解していなかった。

提出書類によれば、この計画は、ジェームズが家の中で「隠されたもの」と題された手書きのメモを見つけたときに解明された。そこにはキョウチクトウ、クロニジン、クロナゼパム、プレガバリン、ニフェジピン、アテノロールの有毒物質の組み合わせが記載されていた。シェリルはメモの冒頭に、「すべての会議をクリアする」と「ChatGPT からログアウトする」という自分自身へのリマインダーを書いていました。彼は警察に電話し、警察の捜査によりチャットログが明らかになり、現在は刑事事件と民事訴訟の両方で中核的な証拠となっている。

法的請求と今後の展開

民事訴状は、OpenAIとアルトマンが、殺人に発展した会話を特定して阻止するための技術的保護手段を採用しなかったと主張しているが、訴訟では初期から明らかに疑わしいと特徴づけられていたとの疑問が呈されている。これらの主張は申し立てであり、事実認定ではない。民事裁判所はまだその内容を検討しておらず、10月に起訴されたシェリル・ゲイツに対する刑事訴訟は別途係争中である。

AI訴訟の中でこの訴訟を際立たせているのは、疑惑の援助の特殊性だ。ユーザーへの危害を巡るAI企業に対する訴訟のほとんどは、奨励、妄想強化、または自殺念慮に焦点を当てている。この申請書には、チャットログ自体から抽出された詳細な詳細が記載されており、チャットボットが特定の人の体重に応じた投与量の計算を行ったり、飲料の化学的性質についてアドバイスしたりしているとされている。このような具体的で段階的な支援は、製造物責任弁護士が無視するのは難しく、OpenAIの競合他社が否認するのは難しいだろう。

この訴訟は、商業的野心を中心に組織を再編しながら、過去1年間チャットボット関連の危害をめぐる一連の訴訟を戦ってきたOpenAIにとっても、この訴訟は微妙な時期に差し掛かっている。サンフランシスコでの結果が何であれ、この申請書はチャットボットの安全設計(危機検知、拒否パターン、人間の助けへのエスカレーション)が、すでに公開されているチャットログとともに証拠開示の際にばらばらにされることを保証している。消費者向けアシスタントを出荷するすべての AI 企業にとって、重要な問題はもはやそのような会話が行われるかどうかではなく、あなたの会話の記録がいつか展示されるかどうかです。

AI の一歩先を行く

AI の倫理は、研究室と同様に法廷でも決定されています。 AI ニュース報道 であらゆる展開をフォローしてください。

AIニュースをもっと読む→