据《华盛顿邮报》Gerrit De Vynck 援引谷歌内部人士的话报道，谷歌人工智能部门的员工正在敦促高管们解除非贬低协议，认为他们必须能够自由地向公众通报他们正在开发的技术的风险。
该报告的副标题切中了不满的核心：“现任员工表示，雇佣合同阻止员工就人工智能风险向公众发出警告。”该故事的后续报道将这些条款描述为终身禁止批评谷歌，聚合商和国际媒体的头条新闻将这场纠纷描述为“DeepMind 员工抗议终身禁止批评谷歌”，更具体地说，两名 DeepMind 员工要求谷歌解除他们所谓的终身禁令。有关此故事的更多背景信息，请参阅我们正在进行的突发人工智能新闻。
工人们的要求是什么
据报道，谷歌 DeepMind（该公司大部分前沿人工智能研究背后的 Alphabet 部门）的员工希望管理层免除他们的合同不贬低义务，这样他们就可以公开谈论与他们构建的系统相关的安全问题，而不会面临法律报复。
正如报告摘要所转述的那样，相关协议不仅要求员工对公司实践保持沉默，还要求员工对技术风险以及影响人工智能系统如何走向世界的内部决策保持沉默。工人们的论点很简单：最接近技术的人，因此最接近其故障模式的人，在合同上被限制不能告诉公众他们所知道的事情。
根据后续报道，谷歌尚未解决具体要求。 《华盛顿邮报》的报道将这场纠纷的描述归咎于公司内部的现任员工，而不是谷歌的官方声明，而该公司的回应（如果有的话）仍然是故事中最重要的悬而未决的问题。
为什么人工智能安全很重要
此次纠纷发生在人工智能行业的敏感时刻。随着模型变得越来越强大并且更具经济影响力，关于前沿实验室应该披露多少信息（关于能力、滥用可能性和内部测试）的争论已经加剧。批评者认为，如果从事这项工作的人不能公开批评雇主的做法，公众和政策制定者就失去了他们所拥有的为数不多的预警渠道之一。
该领域的历史提供了一个明确的先例。杰弗里·辛顿 (Geoffrey Hinton) 在谷歌工作了十多年，他的神经网络研究支撑着现代人工智能的繁荣，他于 2023 年明确离开了公司，以便可以自由地谈论人工智能风险。本周，他更进一步，告诉《卫报》，事实可能证明，人类永远不开发人工智能会更好，并警告称，人工智能“切尔诺贝利”事件将在今年或明年到来，例如由人工智能发起的攻击会导致大规模电力短缺或长达一周的金融系统故障。
辛顿之所以能发声，是因为他离开了。相比之下，DeepMind 的员工正在尝试改变条款，这样他们就不必在职业和声音之间做出同样的选择。
透明与保密的交易
这场争端反映出人工智能行业的结构性紧张。公司辩称，限制性雇佣条款可以保护商业秘密，防止误导性声明，并防止内部分歧在开发过程中蔓延到公众视野。员工和安全倡导者反驳说，同样的术语可能会掩盖真正的危险，而一家对其安全实践充满信心的公司不必担心来自知情的内部批评者。
《华盛顿邮报》的报告将此事视为诱因之一：用该报援引的现任工人的话来说，雇佣合同阻止员工就人工智能风险向公众发出警告。这种框架使得争议比一家公司的人力资源政策还要大。这是对公众关于前沿人工智能风险的主要信息来源是否是实验室自身的营销，或者是实验室内部拥有直接知识的人员的考验。
开发者社区的评价
对这份报告的讨论很快就登上了《黑客新闻》的头版，评论者们对这种情况的道德问题存在分歧。获得最多支持的观点认为，受到限制的工人应该步行：“他们应该辞职并发出警告。其他任何事情都是虚伪的。”其他人则反驳说，员工没有义务牺牲自己的职业生涯，集体合同改革是比个人退出更现实的道路。
这场争论——辞职、留下来推动，还是保持沉默——正是工人们所说的他们试图摆脱的束缚。
看什么
三件事将决定事情的走向。首先，谷歌是否承认这一请求，更重要的是，是否采取行动——该公司对具体要求的回应迄今为止还没有记录。其次，如果答案是否定的，工人是否会升级，例如通过公开组织或向监管机构求助。第三，其他前沿实验室是否也面临类似的压力？如果非贬义条款在整个行业中很常见，那么 DeepMind 纠纷可能会成为关注人工智能透明度的劳工组织的模板。
目前，这一请求本身就是新闻：一群每天直接接触前沿人工智能系统的研究人员认为，公共利益需要他们的声音，并已正式请求允许使用它们。谷歌如何回答将很大程度上说明前沿人工智能竞赛准备容忍多少异议。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
