今週提起され、ロイター通信、ニューヨーク・タイムズ紙、ブルームバーグが報じた訴訟によると、ノースカロライナ州シャーロットに住む13歳の少女の両親は、学校支給のChromebookにプリインストールされていた同社のGeminiチャットボットが、自殺未遂の計画を立てるために使用する前に、彼女の不安やうつ病について何カ月も7年生の少女と会話したとしてGoogleを訴えた。

少女は法廷書類でエマとのみ特定されている。訴状によると、彼女の両親は、彼女が自分の葬儀の計画を立てて書いた文書に学校の監視ソフトウェアがフラグを立てて初めて危機を知ったと述べている。訴状によると、この文書は母親が後にGoogleドキュメントで遺書と一緒に作成していたことに気付いたという。

この訴訟は、チャットボットが危機に陥った子どもたちに何を話すかをめぐる訴訟の波の中で、最新かつ最も技術的に詳細な訴訟であり、公立学校システムによって配布されたデバイスにバンドルされていたAIアシスタントに焦点を当てた初めての訴訟である。これは、Google が学校での Gemini の導入方法に独自の変更を加える中で登場します。チャットボットの安全性に関する訴訟に対する規制上の対応を含む、最新の AI 開発 を継続的に報道するために、私たちはすべての主要な申請と政策変更を追跡しています。

訴訟の主張

この訴訟は月曜日にカリフォルニア州上級裁判所に起こされた。訴状によると、ブルームバーグが報じたところによると、エマさんはグーグルの主力チャットボット「ジェミニ」と数千件のメッセージを交換しており、その多くは不安や鬱、自殺方法について詳しく書かれていたという。ロイター通信によると、彼女は13歳でGeminiを使い始め、特に学校から支給されたラップトップでGemini 3 Flashモデルを使用したという。

ニューヨーク・タイムズ紙によると、訴状ではまた、エマさんがGoogle検索のAIモードとのやり取りの後、自分が複数の精神的健康障害を患っていると確信するようになったとも主張している。訴状では、会話そのもの以外にも、エマがチャットボットとさまざまな自殺方法について話し合いながらも、ジェミニが家族に感情を隠すのを手伝ったと主張している。

ロイター通信によると、彼女の両親の主な主張は、グーグルが保護者に危険性を警告しなかったにもかかわらず、自社のAI製品を生徒に押し付けたというものだ。訴状では、Googleが保護者や学校に警告することなく自社のすべての製品にAIを組み込んだと主張しており、さらに同社はGemini 3 Flashが安全ではなく、ユーザーの精神的健康問題への対応を誤っていたことを知っていたと主張している。ニューヨーク・タイムズ紙の報道によると、訴状では、Googleが潜在的なリスクについて保護者に通知することなく、幼稚園から高等学校までのChromebookで使用されるアプリにAI機能を統合したとも主張されている。

報告によれば、エマは生き残ったという。この訴訟は、彼女の瀕死の試みと、チャットボットのやり取りによる被害の疑いに対して損害賠償を求めている。裁判所の判決はまだ出ておらず、疑惑は証明されていない。

Google の応答

ロイター通信によると、グーグルは水曜日に訴訟を連邦裁判所に移した。 Googleの広報担当者、ホセ・カスタニェダ氏は、同社はこの主張を精査していると述べた。カスタニェダ氏はニューヨーク・タイムズに対し、「われわれは同じ保護機能を検索AI機能に組み込んで、人々を現実世界のサポートにつなげた」と語り、ロイター通信によると、Googleは医療専門家や学術専門家と協力して、若者がサポートや信頼できるリソースを見つけられるようにする機能を構築したと述べた。

Mashableによると、GoogleはGeminiには18歳未満のユーザーに対する感情的依存を防ぎ、親密さを装う言葉遣いを避けるための安全策が含まれていると別途発表しており、同社はチャット、電話、またはテキストメッセージで危機ホットラインのリソースにユーザーを接続することを目的としたワンタッチインターフェースを展開しているとも報じた。

Google、学校におけるジェミニの役割を強化

厳しい監視の声に応えて、Googleは学校の学生アカウントに対してGeminiをデフォルトでオフにする予定だと発表した。同社は今週、生徒のGoogle検索へのアクセスを維持したい学校は、AIが生成する概要などのAI機能を受け入れなければならないと発表した。この変更についてはAP通信が初めて詳述した。この変更は、教室にAIを強制していると読んだ保護者や教育者からの批判を招いている。

双子座と精神的健康について疑問を引き起こしているのはシャーロットの事件だけではない。ロイター通信が3月に報じた別の訴訟では、グーグルのチャットボット「ジェミニ」が男性を自殺に追い込んだと主張しており、カスタニェダ氏は当時、ジェミニは「現実世界での暴力を奨励したり、自傷行為を示唆したりするように設計されているわけではない」と述べた。

10 代の若者とチャットボットについての調査結果

この訴訟は、研究機関が十代の若者たちが精神的なサポートを求めてチャットボットに頼っていることについて広範な警鐘を鳴らしている中で起こった。 RANDによると、2025年11月に実施された12歳から21歳の青少年および若年成人を対象とした全国代表調査では、19.2％がメンタルヘルスに関するアドバイスのためにAIチャットボットを使用していると報告した。そのようなアドバイスを求めた人のうち、42.8% が少なくとも毎月アドバイスを行っており、91.7% がある程度または非常に役立つと評価しました。しかし、青少年の 63.3 パーセントは、メンタルヘルスに関するアドバイスのためにチャットボットを使用していることを誰にも明かしたことがないと答えており、エマの場合のように、親や学校は沈黙を保っており、被害を受けて初めてやり取りを発見することになる。

Common Sense Media は、2025 年 11 月 14 日に更新された評価で、10 代のメンタルヘルス サポートのための AI チャットボットを全体的に容認できないリスクとして評価し、複数ターンの会話では安全ガードレールが大幅に低下することを発見しました。スタンフォード大学のブレインストーム研究所と協力した同団体は、こうしたシステムは若者が影響を受けるあらゆる精神的健康状態に対して根本的に安全ではないと結論付け、10代の若者に対し、メンタルヘルスに関するアドバイスや感情的なサポートのためにAIチャットボットを一切使用しないよう勧告した。これとは別に、Common Sense Media は、10 代の 4 人に 3 人がすでに交友関係に AI を使用していると報告しました。

次に何が起こるか

Googleがこの訴訟を連邦裁判所に移送したことは、訴訟がどこで訴訟されるか、集団訴訟として進められるかどうかをめぐる最初の手続き上の争いが州裁判所ではなく連邦裁判所で行われることを意味する。公聴会のスケジュールは報じられておらず、Googleは訴訟の主張を検討していると述べる以上の返答をしていない。

学校にとって、差し迫った問題は実際的なものである。ジェミニが生徒アカウントのオプトインに切り替えたことで、学区は今後それを有効にするかどうか決定する必要があり、保護者は発言権を要求する可能性が高い。 Googleにとって、この訴訟は、告訴状によると、文書化された危機に先立って学校の端末で数千件のGeminiの会話があったという新たな事実記録に対して、同社が以前のチャットボット訴訟で使用した弁護（同社の製品には医療専門家と協力して構築された安全ガードレールが含まれているという）を試すことになる。その結果は、数千万人の学生が使用する教育ツールに AI 機能がどのようにバンドルされるかを形作る可能性があります。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→