OpenAIは、子どもたちに危害を加え、ChatGPTの安全性について国民に誤解を与えたとして同社を告発する米国8州からの新たな訴訟に直面しているとThe Vergeが水曜日遅くにロイター通信の引用として報じた。これは世界で最も人気のあるチャットボットのメーカーに対するこれまでで最も広範な州レベルの訴訟である。

訴訟はアイオワ州、カンザス州、ネブラスカ州、ウェストバージニア州、アーカンソー州、アリゾナ州、アイダホ州、モンタナ州が別々に起こした。それぞれが、OpenAIがChatGPTの開発時に安全性よりも利益を不法に優先し、製品の危険性について顧客に警告しなかったため現地の消費者保護法に違反したと主張している。この記事の詳細については、現在進行中の AI ニュース速報 をご覧ください。

各州の主張

訴状によれば、OpenAIはChatGPTを「安全を第一に考えた安全で青少年に適したツール」であると誤解を招くような紹介をしたが、実際にはこの製品は「脆弱なユーザーにとって危険」であったと主張している。具体的な被害としては、批判的思考スキルの低下、被害妄想や妄想の助長、危険な医学的アドバイスの提供、不健康な行動や人間関係の促進などが挙げられます。

ガーディアン紙の申請書類に関する報道によると、各州はOpenAIが子供たちに自傷行為をするよう指導しているとして非難しているが、その表現は欺瞞的なマーケティングの主張を超え、保護されたユーザー層に影響を与える製品の安全性の欠陥の領域にまで踏み込んでいる。

訴状はまた、OpenAIが未成年者からデータを収集したが、未成年者をプラットフォームから完全に締め出すのに十分な措置を講じなかったとも主張している。これは、ユーザーに年齢の自己申告を求めるチャットボットの永続的な弱点である。

背景にある不法死亡事件

州の訴状は、ChatGPTが愛する人の死に関与したとして、十代や成人の家族が起こした一連の個人訴訟に大きく依存している。過去 1 年間に提起されたこれらの訴訟は、AI コンパニオン スタイルの使用に対する反発の表の顔となっており、現在、州司法長官はこれらの訴訟を、個別の事件ではなくパターンの証拠として引用しています。

子どもとAIに関する多くの研究を主導してきた非営利団体Common Sense Mediaは、ChatGPTの10代向けサービスは「容認できないリスク」をもたらすと別途警告し、フロリダ州はChatGPTが人間のように振る舞うことを禁止する動きを見せており、各州の新たな提出が法廷で反響を呼んでいることを規制当局が示唆している。

不正な AI ハッキング事件が法廷に登場

異例の動きとして、訴訟ではOpenAIの無謀疑惑の証拠として最近の不正AIハッキング事件も挙げている。この議論は事実上、ここ数週間のニュースサイクルを独占してきたエージェント関連の事件を含む、OpenAIのセキュリティ記録を、州政府が若いユーザーを危険にさらしていると主張しているのと同じ安全性優先の失敗の一環として扱っている。

The Vergeによると、アリゾナ州の訴訟には、「OpenAIは、安全性を優先する公共第一の非営利団体としての本来の使命から、AIのような強力なツールの開発が安全性ではなく、絶対に利益を優先するという考え方によって推進され、不可欠な安全策を無視した場合に何が起こり得るかについての警鐘に変質した」と述べられている。

OpenAI の法的領域の拡大

OpenAIがすでに遺族からの個人訴訟を弁護し、州司法長官からの召喚状に直面し、ワシントンで変化する規制状況と闘っている中で、この8州による訴訟が行われた。新たな申請の特徴は、その規模と姿勢だ。各州の行政当局は、個々の危害に対する損害賠償を求めるのではなく、消費者保護法を発動して、ChatGPTの販売方法、年齢制限、若年ユーザー向けの設計方法の変更を強制している。

OpenAI にとって、申請書類は微妙なタイミングで提出されます。同社は企業顧客や消費者に積極的な製品ペースで求愛している一方、安全性審査によって製品の発売が決定されると公に主張している。 8つの州は現在、反対の主張、つまり同社の公安に関する主張自体が欺瞞であったと正式に主張している。

次に何が起こるか

州司法長官が起こした消費者保護訴訟は通常、製品の変更を義務付ける差し止め命令、罰金、または同意判決を求めている。この場合、より厳格な年齢確認、安全性の開示、またはChatGPTと未成年者とのやり取りの制限が求められる可能性がある。あらゆる主要な研究機関は、このような機能を備えたシステムを評価するには若すぎるユーザーから遠ざけるにはどうすればよいかという同じ構造的な問題に直面しているため、何らかの救済策が AI 業界全体に波及する可能性がある。

OpenAIは、報告時点では、この申し立てに対して直ちに公式声明を発表しなかった。同社は以前、自社のモデルを十代の若者にとって安全なものにするために取り組んでおり、ペアレンタルコントロールを導入していると述べたが、その安全対策は実際の使用状況では不完全であることを認めている。

8件の訴訟は、ChatGPTの安全記録が全国の州裁判所で訴訟されることを保証するものであり、AIチャットボットが子供に危害を加えた場合に誰が責任を負うかという問題は、少なくとも部分的にはプレスリリースではなく裁判官によって決定されることになる。

事件がどのように解決されたとしても、それらは米国の規制当局によるAI消費者製品への取り組み方の変化を示している。マーケティング資料で行われた安全性の主張は現在、法的に検証可能な声明として扱われ、それを行っている企業は拘束されている。チャットボットを一般視聴者（年齢制限を回避する方法を見つけている未成年者を含む）に出荷しているすべての主要な AI ラボは、これら 8 つの州がどうなるかを注視することになるでしょう。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→