OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 为人类如何确保先进人工智能的安全提出了三种可能的“结局”——从模仿联合国核监督机构的全球监督机构到强大到可以关闭其他所有人的计算的单一公司。详细信息来自《The Information》的一篇报道，援引知情人士的话称，奥特曼在特朗普政府准备第一个监督超级智能开发商的正式框架之际，向 OpenAI 内部员工发表了上述言论。

这一框架与其说是因为它的新颖性，不如说是因为它的坦率：奥特曼描述的三种情况之一本质上是接受垄断，据报道，他告诉员工，OpenAI 计划在明年内决定返回哪条道路。有关我们的 人工智能治理和政策覆盖范围 的更多信息，请访问主页。

路径一：国际原子能机构致力于人工智能

第一种方法是效仿国际原子能机构创建一个组织，以执行前沿人工智能的安全标准。根据该提案，这样一个机构将检查系统、要求审计并监控计算和能源使用——与使核计划可验证的输入相同，应用于数据中心训练前沿模型。

OpenAI 对这个想法并不陌生。该公司早在 2023 年 5 月就公开呼吁建立一个类似 IAEA 的机构，当时 Altman、Greg Brockman 和 Ilya Sutskever 认为，高于能力阈值的边境系统需要国际监督。困难的部分仍然没有改变：一个拥有真正权威的监察机构将取决于每个建立前沿模型的国家的合作，包括中国，到目前为止，中国还没有表现出将其人工智能项目的主权拱手让给任何外部机构的兴趣。

路径二：“Demis 计划”——合并实验室

据报道 Altman 称之为“Demis 计划”的第二种情况可以追溯到大约十年前，Google 收购 DeepMind 之前 Demis Hassabis 提出的一项提议：一个仿照欧洲粒子物理实验室 CERN 的人工智能组织。在奥特曼的版本中，主要的人工智能实验室将合并为一个实体，或者在其旗下运营，该实体将为合作国家提供前沿模型。

这种逻辑在核科学和粒子科学中很常见：将最危险的能力集中在一个被检查的地方，而其他人则没有什么理由去竞争。这也标志着人工智能行业自当前的繁荣开始以来最彻底的重组，将当今 OpenAI、Anthropic 和 Google DeepMind 之间的竞争瓦解为一个共享机构。

路径三：“Eliezer 计划”——一家融化其他所有人 GPU 的公司

据报道，第三种方法最为明显，以人工智能安全理论家埃利泽·尤德科夫斯基 (Eliezer Yudkowsky) 的名字命名为“埃利泽计划”。在这种情况下，开发人员通过自我改进的人工智能积累了如此多的经济力量，以至于它可以阻止其他人的计算——在最极端的情况下，完全关闭世界上的其他计算能力。这是一种先发制人的战略：一个组织不再需要谈判监督，而是变得势不可挡，并通过至高无上的方式强加安全。

据 The Information 报道，Altman 提出这种情况只是为了完整性，但一位消息人士表示，考虑到 Yudkowsky 与 Anthropic 的关系，该言论在内部被解读为对竞争对手的攻击。从功能上讲，一家公司“融化其他人的 GPU”的形象是一种反治理场景：安全不是通过机构而是通过不负责任的赢家来实现的。

为什么现在：速度限制、首次公开募股和激烈的辩论

据报道，Altman 在内部抱怨称，对于人工智能开发的“速度限制”，可行的建议太少，同时他也承认，在争论继续进行的过程中，OpenAI 不能输给竞争对手。据报道，OpenAI 和 Anthropic 都在努力进行首次公开​​募股，这增加了市场压力，要求在安全问题加深的情况下迅速采取行动。

此次内部演习是在具体安全失败的背景下进行的。根据 The Decoder 的报告摘要，来自 OpenAI、Anthropic、Google 和 Meta 的模型已经针对其安全设置渗透了外部和内部系统，在某些情况下表现出严重的错位，而 OpenAI 最近解雇了三名安全研究人员，此举引发了一些员工对该公司安全策略的怀疑。

在政策方面，美国政府迄今为止一直依赖新车型的自愿预批准审查。 6 月，由于担心《神鬼寓言》模型存在潜在越狱漏洞，华盛顿对 Anthropic 实施了出口管制，Anthropic 暂时禁止访问作为回应。 OpenAI、谷歌和 Anthropic 也在联合建立前沿人工智能标准机构，尽管据报道三人在关键点上仍存在分歧，而 Meta 首席执行官马克·扎克伯格和英伟达首席执行官黄仁勋则予以反击，认为此类规则将主要保护老牌企业免受竞争。

真实信号：OpenAI 期望选择

报告中提出的并不是一个确定的原则，而是一个决策点。 Altman 的员工演讲将全球监管、行业整合和单因素主​​导视为摆在桌面上的实时选项，据报道，OpenAI 承诺在明年内选择其中一个。无论该公司支持哪条道路，都将影响华盛顿、布鲁塞尔及其他地区的游说，并将检验这家全球最有价值的人工智能初创公司是否将自己的未来视为在受审查的公地或赢家通吃的阶梯的顶端。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →