TechCrunchは土曜日、ワシントン・ポスト紙の報道を引用し、裁判所への提出文書でジェーン・ドゥ4と特定された女性が、同社のチャットボットGrokが児童性的虐待素材の作成に関与したとされる役割を巡り、イーロン・マスク氏のxAIに対する訴訟に参加したと報じた。

報告書によると、女性は継父がGrokを使って彼女が11歳の時に撮影した写真を加工し、7,000枚以上の露骨な画像を作成したと主張している。彼女はまた、法執行機関の捜索で画像が発見された2日後に義父が自殺で発見されたとも述べた。 この件の詳細は、AIの最新動向をご覧ください。

「これらのツールへの無制限のアクセスは急速に広がっています」と女性は語った。 「それは日常生活を奪い、児童への性的虐待に変えています。」

この訴訟は、主流の AI チャットボットと実の子供の性的画像の作成に関するこれまでで最も深刻な申し立ての 1 つであり、AI 画像生成のガードレールをめぐる議論の焦点となっている訴訟をさらにエスカレートさせます。

訴訟の中心的な主張

この訴訟は当初、テネシー州のティーンエイジャー3人が起こしたもので、xAI（現在はスペースXの一部）が、未成年者を含む現実の人々のあからさまな画像の作成にGrokが使用されることを防ぐための基本的な予防策を怠ったとして告発した。原告らは集団訴訟の地位を求めており、これにより同様の被害を主張する他の人々も訴訟に参加できるようになる。

Jane Doe 4の申請書には、1枚の幼少期の写真、何千もの虐待的な派生作品の生成に使用されたとされるAIツール、当局による資料発見から数日以内に起こった家族の悲劇など、一連の悲惨な詳細が名前付きで追加されている。

TechCrunchはxAIにコメントを求めたと述べた。この申し立ては進行中の民事訴訟における申し立てであり、法廷では証明されていない。あなたまたはあなたが知っている人が危機に瀕している場合は、米国の 988 自殺および危機ライフラインに電話またはテキスト メッセージ (988) で連絡できます。

Grok に対するプレッシャーのパターン

この訴訟は、Grok の画像生成機能に対する厳しい監視が 1 年にわたって高まっている最中に始まった。今年の初めに、X には Grok が生成した何百万もの性的画像が大量に殺到し、このエピソードはこのツールに関する保護措置に対する広範な批判を引き起こしました。このエピソードは、いわゆる「無効化」アプリケーションや同意のない合成画像を対象とする州レベルの法案の波を促進するのに役立った。ミネソタ州によるこうしたツールの禁止は、裁判官がその執行を阻止するためのxAIの差止命令の請求を却下したことを受けて発効した。

テネシー州訴訟の利害はxAIを超えて広がっている。原告らは、画像生成ツールを大規模に展開する企業には、製品が一般に流通する前に、識別可能な現実の人々、特に子供たちの性的対象化を防ぐ技術的安全策を構築する義務があると主張している。この主張が裁判所に受け入れられれば、画像生成モデルのすべてのプロバイダーに適用される法的基準が確立される可能性があります。

業界の未解決の問題

AI 企業にとって、実際の人間に対する画像ジェネレーターの悪用を防ぐことは、頑固に難しいことが判明しています。 Anthropic が EU の透明性規則に準拠するために Claude の出力に追加し始めたような透かしと来歴ツールは、事後的に合成コンテンツを特定するのに役立ちますが、そもそも不正な素材の生成を阻止することはできません。入出力フィルターは既知のパターンをブロックする可能性がありますが、決意の強いユーザーは継続的に回避策を見つけており、オープンウェイト画像モデルにより一部の機能を完全に思い出すことが不可能になっています。

xAI 事件の申し立ては、その範囲の最も深刻な結末を示しています。それは、Grok を消費者製品として数百万の加入者に販売している、世界で最も著名な AI 企業の 1 つが運営するツールを使用すると、子供の 1 枚の写真が何千もの露骨な画像に変換される可能性があるという主張です。

この訴訟を追う法律専門家らは、今回の集団訴訟入札は、裁判所がこうした誤用を防ぐための失敗をAI企業が責任を負う製品の欠陥として扱うのか、それとも企業の責任の範囲外である個人ユーザーによる誤用として扱うのかを試すことになると述べている。

次に何が起こるか

原告らの当面の目標はクラス認定であり、これによりxAIに対する潜在的な請求者の集団が劇的に拡大することになる。一方、xAI は関連訴訟で、悪用の責任はツールではなくユーザーにあると主張した。子供への危害疑惑を赤裸々に描いた『ジェーン・ドウ４』の追加により、その弁護をめぐる社会的・政治的圧力が増大する。

この事件は、米国と欧州の規制当局が生成AIの透明性義務と安全基準について議論し、画像生成の悪用が周辺ツールに限定されないという証拠が蓄積されるにつれて展開している。答えが法廷で出ても、法律で出ても、あるいはAI企業自体のエンジニアリング上の選択で出ても、この訴訟の中心となる問題、つまりAI製品を出荷する前にどの程度危害防止機能を組み込む必要があるかは、依然として業界で最も不快な未解決の問題である。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →