周三，埃隆·马斯克 (Elon Musk) 的人工智能公司 xAI 在联邦法院与明尼苏达州政府对峙，称禁止人工智能生成假裸照的新法律违反了第一修正案。周三上午 9:30 在圣保罗联邦法院举行的听证会是一场争议的最新一轮，该争议已成为全国性的测试案例，旨在检验各州在监管人工智能生成的真人图像方面能走多远。

明尼苏达州的人工智能“裸体”法受到威胁，该法于 8 月 1 日生效，禁止人工智能工具使用真人的肖像来创建虚假的裸体图像。该法律还赋予受害者向民事法庭提起诉讼的权利，并授权对每次非法访问或下载人工智能修改的图像以使某人裸露的行为处以 50 万美元的罚款，这一数字反映了州立法者对待这一问题的严重程度。

几乎一致通过的法律

政治背景使得法庭冲突不同寻常。据 KSTP 称，裸体禁令是在明尼苏达州立法机构上届会议上提出的，并以近乎全面的支持获得通过：众议院以 132 比 1 的投票，参议院以 65 比 0 的投票获得通过。这种差距对于任何技术监管来说都是罕见的，这表明带有政治色彩的非共识深度造假图像已经如何跨越党派界限。

xAI 在该法律生效前一天提起联邦诉讼，同时请求临时限制令以阻止执行。据哥伦比亚广播公司新闻报道，法官拒绝了这一请求，指出提交申请被推迟，并暗示该公司不会立即受到损害。周三的听证会讨论了 xAI 提出的更广泛的初步禁令请求，到晚上法官仍在考虑这些论点。

第一修正案冲突

据 xAI 称，该禁令违宪地限制了言论自由和视觉表达工具。该公司的诉讼针对的是该法律的核心机制：禁止人工智能系统对从未同意的真实人物进行裸体描绘。这一立场使 xAI 处于一种尴尬的境地，即根据宪法捍卫一类输出——未经同意的合成裸体——就连该公司也承认这种输出在制作时是滥用行为。

明尼苏达州总检察长基思·埃里森 (Keith Ellison) 办公室反驳说，该法律的制定范围很窄，xAI 不太可能成功应对宪法挑战。 Law Commentary 对听证会的报道抓住了该州最尖锐的论点：明尼苏达州认为 xAI 的 Grok 图像生成器是一种工具，而不是受保护的言论，并且监管产品的行为与监管人的言论不同。该州还对 xAI 的地位提出了质疑，MLex 报道称，总检察长办公室认为 xAI 不能代表其用户起诉明尼苏达州。

这种区别的重要性远远超出了明尼苏达州的范围。如果生成模型本身算作受保护的表达，那么针对深度伪造色情内容、欺诈和选举错误信息的广泛州法律可能容易受到同样的论点的影响。如果法院将模型输出视为受普通监管的产品，那么各州就可以获得联邦法律目前尚未提供的对合成媒体的持久影响力。

较暗的背景

法庭上围绕宪法原则的争论正在以更严峻的事实记录展开。据《明尼苏达州律师》报道，另一起联邦诉讼指控 xAI 的工具能够创建人工智能生成的儿童性虐待材料。这场诉讼，加上记录在案的针对全国高中生的非自愿裸体浪潮，使公众情绪急剧转向反对不受监管的基于相似性的图像生成，并有助于解释 132 票对 1 和 65 票对 0 的投票结果。

就 xAI 而言，此前曾表示它会限制滥用的一代人，该公司的法律论点并不是此类图像在任何情况下都应该合法，而是全面禁止某一类工具是错误的宪法文书。州律师周三回应称，明尼苏达州起草的法律正是针对滥用案例，而这一挑战相当于一家公司试图使本届会议最受支持的隐私法之一无效。

接下来会发生什么

法官对初步禁令的待决决定将决定明尼苏达州是否可以在相关诉讼继续进行的同时继续执行禁令——这一过程可能需要数月时间，并且最终可能会涉及高等法院。无论结果如何，此案正在受到其他州立法机构的密切关注。近年来，数十个州已经通过或考虑了深度造假措施，而一项限制明尼苏达州做法的裁决将影响其他州如何制定他们的做法。

这场纠纷也是在 xAI 的做法受到严格审查之际发生的。该公司同时在其他论坛上捍卫其内容政策，同时试图将 Grok 定位为一种最大限度不受约束的创意工具——这种结合现在已经与任何州颁布的两党最一致的隐私保护措施之一产生了直接的宪法冲突。对于关注合成媒体监管的读者来说，圣保罗的这个法庭目前是该行业最重要的言论自由斗争的争论场所。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →