OpenAI 在欧盟的 ChatGPT 和 Codex Text 上推出隐形文本颗粒水印

OpenAI 将在其 textGrain 系统下向欧盟的 ChatGPT 和 Codex 文本输出添加隐形水印，而全球 API 开发人员可以选择从现在开始。

OpenAI 于 10 月 5 日宣布，将开始在 ChatGPT 和 Codex 为欧盟用户生成的文本中添加隐形水印，这是其对欧盟人工智能法案文本来源规则的具体回应。该公司在一篇题为“我们对欧盟文本出处规则的处理方法”的博客文章中表示，水印将在“未来几周内”针对欧盟符合条件的输出推出，TechCrunch、The Verge、BleepingComputer、Engadget 和其他媒体当天报道了这一计划。

这一变化背后的技术称为textGrain。 textGrain 不是嵌入可见标记，而是通过巧妙地控制模型的单词选择来工作，以便生成的文本带有可以稍后检测到的统计模式。读者在阅读或复制人工智能生成的文本时不会注意到任何事情；检测需要访问 OpenAI 的检测器，而公众无法使用该检测器。要更广泛地了解监管机构和实验室如何在人工智能规则上发生冲突，请关注我们正在进行的人工智能政策报道。

textGrain 水印的工作原理

OpenAI 的方法修改了生成过程中的代币选择过程。据 BleepingComputer 报道，该公司表示，textGrain“稍微改变了模型的单词选择，以创建稍后可以检测到的统计模式”。当阅读或复制文本时，水印是不可见的，OpenAI 声称它不会降低输出质量。

检测端被刻意限制。除了水印发布之外，OpenAI 还开放其水印检测器的应用程序，但访问权限最初仅限于经过批准的研究人员和专家组织。这种设计使任何希望将其武器化的人无法获得检测能力，但这也意味着出版商、教师和雇主无法独立验证一段文本是否带有水印。

API 访问在全球范围内可供选择

欧盟的指令适用于欧盟内的 ChatGPT 和 Codex 输出，但 OpenAI 同时为世界各地的开发人员提供了选择。从 10 月 5 日开始，全球 API 开发人员可以选择为支持的模型添加文本水印。默认情况下，该功能在 API 上仍然处于禁用状态，New Stack 强调这一决定与 Anthropic 的方法形成鲜明对比，Anthropic 在今年早些时候为欧盟流量启用了来源标记，以回应相同的规则。

这种选择加入的态度将使担心不可预见的副作用的开发人员放心。统计水印改变了令牌的采样方式，并且对生成的任何修改至少会带来在边缘情况下改变行为的理论上的风险。通过将水印设置为标志而不是默认设置，OpenAI 将合规决策转移给基于其模型构建的公司。

为什么欧盟人工智能法案强制这样做

欧盟人工智能法案的透明度条款要求人工智能生成的文本可被识别为机器生成的，这一义务推动 OpenAI 和 Anthropic 走向统计水印方案。 OpenAI 的博客文章将 textGrain 定义为其对这些来源要求的实现，PYMNTS 报告称 OpenAI 直接满足了“欧盟人工智能法案要求”。

时机值得注意。这一水印公告发布之际，OpenAI 的公众姿态异常动荡：同一新闻周期还带来了安全负责人 David Robinson 的离职、联邦贸易委员会 (FTC) 对主要人工智能实验室消费者风险的调查，以及股东诉讼气氛，该公司一直受到密切关注。水印是 OpenAI 能够通过基础设施而不是产品变化来完全满足的少数监管要求之一，这也许可以解释为什么它首先发货。

问题：水印在编辑时会破裂

OpenAI 本身也承认存在根本性的限制。该公司承认，当文本被编辑时，其水印可能会消失，数十年的语言隐写术研究也证实了这一担忧：释义、翻译甚至适度的重写都可能会破坏统计水印。任何决心通过“人性化”工具清洗人工智能文本的人都可能会成功。

这一弱点并没有阻止监管机构要求加水印，也没有阻止实验室运送它。现实的目标不是防篡改来源，而是大规模提高随意欺骗的成本，这与管理货币水印的逻辑相同。包括一些对自愿行业措施持怀疑态度的人工智能安全组织在内的批评者认为，只有经过批准的组织才能使用的探测器对于试图执行自己的人工智能内容政策的教师、编辑或平台几乎没有什么帮助。