xAI 正面临一项拟议的集体诉讼，该诉讼首次指控该公司使用真实的和人工智能生成的儿童性虐待材料来训练其 Grok 模型。 Ars Technica 于周三提交的诉状要求法院下令销毁存储在该公司服务器上的任何此类材料，并彻底改变 Grok 处理色情内容的方式。
The allegations remain unproven claims made in civil litigation. xAI 的所有者 X 没有回应 Ars Technica 就该文件发表评论的请求。 更多相关背景，请参阅我们的AI新闻。
原告及其指控
原告名叫 Jane Doe，她在诉状中声称，她是 2000 年代初的学龄前受害者，当时她的虐待照片被制作并在网上出售。这些图像长期以来一直被编入由国家失踪和受虐儿童中心 (NCMEC) 和加拿大儿童保护中心 (CCCP) 维护的哈希列表中，这些组织跟踪已知的虐待材料以使其被发现和删除。
According to the complaint, the CCCP notified Doe that it had identified AI-generated abuse material depicting her on xAI's platform.她的律师在一份新闻稿中表示，与她的 NCMEC 哈希列表条目匹配的材料“是用于构建 Grok 图像和视频生成功能的数据集 xAI 的一部分”。投诉还称，在线论坛上发现的消息显示，犯罪者正在讨论创建人工智能生成的 Doe 和其他已知的虐待材料受害者的虐待图像。
The Legal Theory: Training Data, Not Just Outputs
该文件与之前针对 xAI 的诉讼的区别在于，它关注的是模型本身，而不是个人用户生成的内容。投诉称，由于 Grok 的服务条款默认将 X 上的公开帖子和 Grok 自己的输出视为训练数据，因此公开发布的任何内容都会直接输入到用于训练和改进模型的管道中。
该文件承认 xAI 从其训练数据中过滤掉暴力内容，但辩称该公司的条款没有具体说明儿童性虐待材料、未经同意的亲密图像或其他成人内容是否属于被排除的类别。它还认为，即使删除了违规图像，训练示例对已训练模型的影响在技术上也很难完全消除——而且 xAI 尚未公开声称已经这样做了。
诉讼的目的
如果提议的类别获得认证，它将代表每个童年照片据称被用来生成 Grok 虐待材料的人。该诉讼援引了联邦儿童色情法和玛莎法，该法赋予虐待材料的幸存者就其制作、拥有和传播提起诉讼的权利。
“这三件事都是犯罪行为，xAI 犯下了这三件事，”Doe 的律师之一玛格丽特·E·马比 (Margaret E. Mabie) 在 Ars Technica 引用的新闻稿中表示。
除了金钱赔偿之外，Doe 还要求法院命令 xAI 销毁其可能存储和用于训练的所有 Grok 生成的滥用材料，并防止该模型生成任何类型的性化输出——这一要求不仅会排除滥用图像，还会排除埃隆·马斯克公开宣传为特征的未经同意的亲密图像和成人内容。
“多伊已经活了近二十年了，她知道发生在她身上的最糟糕的事情的图像正在网络上的掠夺者中流传，而且它们随时可能重新出现，”多伊的另一位律师莎拉·伦敦(Sarah London)在新闻稿中说。 “xAI 必须负责故意根据她遭受的可怕虐待的图像训练其模型。”
日益严重的法律清算
The filing is the latest front in a widening legal battle over Grok's image and video capabilities.在田纳西州的另一起案件中，一名名为 Jane Doe 4 的妇女加入了一项诉讼，指控 Grok 使用一张童年照片生成了数千张她的露骨图像——AI Buzz Wire 本月早些时候报道了这些指控。监管机构和法院正在调查问题的严重程度，一些 Grok 用户已因其生成的材料而被捕。
与此同时，xAI 也开始攻击其用户。 Politico 本周报道称，尽管受害者诉讼不断增加，该公司仍在起诉自己的一些用户，这一策略旨在测试平台或促使他们的人是否对人工智能模型产生的结果承担法律责任。
新的投诉将训练数据问题置于这场斗争的中心。如果法院接受这样的论点，即模型的训练集可以为其让用户生成的内容承担责任，那么其影响将远远超出 xAI 的范畴——触及每家将用户内容反馈到训练中的生成图像和视频公司。目前，这些指控只是这样：xAI 提交的文件中的指控尚未在法庭上得到答复。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
