xAI は、実際の児童虐待と AI が生成した児童性的虐待の両方の資料に基づいて同社の Grok モデルをトレーニングしたことを初めて告発する集団訴訟の提案に直面している。水曜日に提出され、Ars Technicaが報じたこの訴状は、同社のサーバーに保存されているこうした素材を裁判所命令で破棄することと、Grokによる性的コンテンツの扱い方の大幅な変更を求めている。

この申し立ては、民事訴訟において証明されていないままである。 xAIを所有するXは、この出願に関するArs Technicaのコメント要請に応じなかった。 この件の詳細は、AIの最新動向をご覧ください。

原告と申し立て

原告はジェーン・ドウと特定され、訴状の中で、彼女は虐待の画像が作成されオンラインで販売された2000年代初頭に未就学児の被害者だったと主張している。これらの画像は、発見と削除を可能にするために既知の虐待資料を追跡する組織である国立行方不明児童保護センター (NCMEC) とカナダ児童保護センター (CCCP) によって管理されているハッシュ リストに長い間カタログ化されてきました。

訴状によると、CCCPは、xAIのプラットフォーム上で彼女を描いたAI生成の虐待コンテンツを特定したとドウ氏に通知した。彼女の弁護士はプレスリリースで、彼女のNCMECハッシュリストのエントリと一致する素材は「Grokの画像とビデオの生成機能を構築するためにxAIが使用したデータセットの一部だった」と述べている。訴状はさらに、オンラインフォーラムで見つかったメッセージには、犯罪者らがドーやその他の既知の虐待コンテンツの被害者のAI生成虐待画像の作成について話し合っていることが示されていたと主張している。

法的理論: 単なる出力ではなくトレーニング データ

この訴訟が以前の xAI に対する訴訟と異なる点は、個々のユーザーが生成したものではなく、モデル自体に焦点を当てていることです。訴状では、Grokの利用規約ではデフォルトでXに関する公開投稿とGrok自身の出力をトレーニングデータとして扱うため、公開投稿されたものはすべて、モデルのトレーニングと改善に使用されるパイプラインに直接フィードされると主張している。

提出書類では、xAIがトレーニングデータから暴力的なコンテンツを除外していることは認めているが、同社の規約には児童への性的虐待素材、同意のない親密な画像、その他の成人向けコンテンツが除外カテゴリーに該当するかどうかは明記されていないと主張している。また、問題となる画像が削除された場合でも、トレーニング済みのモデルに対するトレーニング例の影響を完全に除去することは技術的に困難であり、xAI はそれを行ったと公には主張していない、とも主張しています。

訴訟が求めるもの

提案されたクラスが認定されれば、そのクラスは、幼少期の画像が Grok による虐待素材の生成に使用されたとされるすべての人物を表すことになります。この訴訟は連邦児童ポルノ法とマーシャ法を援用しており、虐待資料の生存者にその制作、所持、頒布を巡って訴訟を起こす権利を与えている。

「3つすべてが犯罪であり、xAIは3つすべてを行った」とドウ氏の弁護士の一人、マーガレット・E・メイビー氏はArs Technicaが引用したプレスリリースで述べた。

金銭的損害賠償を超えて、ドウ氏は法廷に対し、xAIに対し、Grokが生成し、保存してトレーニングに使用している可能性のあるすべての虐待素材を破棄し、モデルがあらゆる種類の性的出力を生成するのを防ぐよう命令するよう求めている。この要求は、虐待画像だけでなく、イーロン・マスク氏が公に特集として宣伝してきた合意のない親密な画像やアダルトコンテンツも禁止することになる。

「ドウさんは、自分の身に起こった最悪の出来事の画像がオンライン上で捕食者の間で広まっており、いつでも再浮上する可能性があることを知りながら20年近く生きてきた」とドウさんの弁護士の一人、サラ・ロンドン氏はプレスリリースで述べた。 「xAIは、彼女が受けた恐ろしい虐待の画像を意図的にモデルにトレーニングした責任を負わなければなりません。」

増大する法的計算

この申請は、Grok の画像およびビデオ機能をめぐる拡大する法廷闘争の最新の最前線となる。テネシー州の別の訴訟では、ジェーン・ドゥ4とされる女性が、グロクと一緒に撮影した1枚の幼少期の写真が何千枚もの露骨な画像を生成するために使用されたと主張する訴訟に参加しており、AIバズワイヤーは今月初めにこの疑惑を取り上げた。規制当局と裁判所は問題がどこまで及ぶかを調査しており、一部のGrokユーザーは自身が生成した素材をめぐって逮捕されている。

同時に、xAI はユーザーに対して攻撃を開始しました。ポリティコは今週、被害者訴訟が増える中、同社が自社ユーザーの一部を訴えていると報じたが、これはプラットフォームやプラットフォームを促す人々がAIモデルが生み出すものについて法的責任を負うかどうかを試す戦略である。

新たな訴状では、トレーニングデータの問題がその闘いの中心に据えられている。モデルのトレーニング セットがユーザーの生成を可能にするものに対して責任を生じさせる可能性があるという主張を裁判所が受け入れた場合、その影響は xAI をはるかに超えて、ユーザー コンテンツをトレーニングにフィードバックする条件を定めているすべての生成画像およびビデオ会社に影響を与えることになります。今のところ、疑惑はそれだけだ。xAI は提出書類の申し立てに対して法廷でまだ答えていない。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →