OpenAI 证实，它、Anthropic 和 Google DeepMind 已经就人工智能安全协调问题进行了几周的会谈，并表示支持迫使前沿实验室向独立验证组织敞开大门的立法。
据 TechCrunch 报道，OpenAI 首席全球事务官 Chris Lehane 在周二的一次会议上披露了这一消息。路透社和彭博社援引同样的言论报道称，OpenAI 正在与 Anthropic 和谷歌就人工智能安全问题进行合作。这一确认将数周的暗示——包括山姆·奥尔特曼在接受《财富》杂志采访时承认与其他人工智能领导者的私下讨论——转变为明确承认世界三大领先的前沿实验室正在就他们的行动速度和模型检查方式进行协调。
对于关注人工智能放缓的更广泛政治交火的读者来说，本周的人工智能更新报道范围从 Anthropic 联合创始人 Jack Clark 支持强制终止开关到特朗普总统在与 Nvidia 的 Jensen Huang 的台上通话中称安全担忧为骗局。
确认周即将到来
Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 周六发表了一篇文章，呼吁业界共同努力减缓前沿人工智能的发展步伐，以避免灾难性风险。这封信得到了整个行业的支持，Altman、谷歌的 Demis Hassabis 和埃隆·马斯克都支持这一行动呼吁，Altman 表示 OpenAI 将加入这一努力。
The Information 随后报道称，这三家公司一直在致力于为人工智能行业创建一个标准机构。哈萨比斯在这个想法上有着丰富的经验：今年 7 月，他呼吁美国建立一个新的标准机构，充当人工智能监管机构，有权筛选世界上最先进的模型，并在危险扩大时协调整个行业的放缓。
勒哈恩的言论得到了官方证实。到目前为止，实验室的发言人主要是在进行非正式对话。 OpenAI 的全球事务主管现已将协调记录在案。
反垄断阴影
直接竞争对手之间达成的任何减缓开发速度的协议都会引发明显的反垄断问题，实验室也知道这一点。奥特曼本人指出，如果发现这种协调是为了抑制竞争，此类谈判可能会使这些公司面临违反反垄断法的风险。阿莫代的文章提出了一项狭隘的政府豁免，允许在不触发竞争法的情况下进行安全协调——这表明公司内部对这个问题的重视程度。
批评者很快就指出了这一安排核心的紧张局势：在前沿人工智能领域占据最大市场份额的三大公司共同决定对怀疑论者进行配给，就像带有安全包装的卡特尔行为一样。支持者反驳说，灾难性风险正是竞争对手无法单方面解决的问题，因为任何单独放慢速度的实验室只会将前沿拱手让给竞争对手。
OpenAI 接受第三方检查
勒哈恩讲话中最具体的政策新闻涉及立法。他表示，OpenAI 支持《前沿法案》中的一项条款，该条款要求顶级前沿实验室允许“独立验证组织”进入其公司，以确保模型的开发安全。 Politico 报道称，OpenAI 支持一项围绕第三方安全评估建立的两党众议院计划。
两年前，这个职位对于该领域来说是不可想象的，当时自愿承诺和内部红队是行业标准。现在，它使 OpenAI 与 Anthropic 长期以来倡导的审计第一立场保持一致，并在实验室和政策辩论派之间达成了罕见的共识，这一派别花了一年的时间要求强制监督。
它还与白宫发生冲突。特朗普总统将安全担忧视为骗局，并认为任何放缓都会让中国在人工智能竞赛中获得优势。他的人工智能顾问大卫·萨克斯（David Sacks）是一位长期投资者，个人在整个行业拥有股份，他称对存在风险的担忧被夸大了。在英国，部长们在同一问题上仍然存在公开分歧，其中一个派别敦促政府听取专家的警告，而商务大臣雷诺兹则拒绝谈论先进系统的终止开关。
一场没有中立立场的政策斗争
未来几周将测试实验室的协调是否能够在与竞争主管机构和持怀疑态度的政府的接触中继续下去。由三个控制前沿的公司建立的标准机构将面临包括独立董事、公布其标准并接受政府审查的要求，否则就会被视为披着公共外衣的私人卡特尔而被驳回。
对于《FRONTIER 法案》，OpenAI 的支持为该法案的发起者提供了一个头号支持者，但也为反对者提供了新的攻击路线，他们认为最大的实验室只是在监管该领域，制定只有他们有能力遵守的规则。较小的实验室和在谈判中没有席位的开放权重社区正在密切关注：无论出现什么验证制度，都将确定前沿背后每个人的合规成本。
不再有争议的是协调本身的事实。定义人工智能前沿的三家公司现在正在公开讨论跑步的速度，并邀请政府帮助裁判。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
