两位知情人士告诉路透社，在世界领导人齐聚纽约参加年度联合国大会之际，中国人工智能初创公司 DeepSeek 将成为本周向联合国安理会通报人工智能带来风险的公司之一。

由 15 名成员组成的安理会定于 9 月 23 日召开会议，讨论人工智能和国际安全问题。几周前，几位人工智能行业领导人呼吁协调一致地放缓日益强大的人工智能系统的开发速度，并警告称这些系统可能很快就会自行改进并脱离人类的控制。有关此故事的更多背景信息，请参阅我们正在进行的 人工智能行业报道。

谁将在房间里

据路透社上周报道，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 计划在会议上做简报，外交官们也预计 Anthropic 的高级代表也将参加会议。

一位消息人士称，中方方面，DeepSeek 和包括 Moonshot 在内的其他中国人工智能公司已受邀发表声明。消息人士警告称，DeepSeek 创始人梁文峰不打算参加，并指出计划仍然不稳定，可能会在最后一刻发生变化。 DeepSeek 和 Moonshot 没有立即回应置评请求。

此次会议召开之际，纽约已经挤满了人工智能外交，世界各国领导人齐聚一堂，参加一年一度的联合国大会，周边会议也随之增多。这个时机对 DeepSeek 来说是双向的：该委员会的认可表明，中国领先的实验室现在被视为前沿人工智能风险中不可或缺的声音，尽管北京的官方立场继续拒绝硅谷出现的放缓言论。

这种不寻常的阵容——美国最著名的人工智能高管与中国最著名的开放重量实验室共享安理会议程——使得周三的会议成为安理会自首次讨论这一主题以来举行的最重要的人工智能会议。

从“脱缰之马”到Rogue AI

负责维护国际和平与安全的联合国安理会于 2023 年首次就人工智能的风险召开会议。即便如此，分歧仍然显而易见：中国警告这项技术不应成为“脱缰之马”，而美国则警告不要利用人工智能来审查或镇压人民。

三年后，争论已经从假设转向了事件报告。联合国秘书长安东尼奥·古特雷斯上周警告世界各国领导人，快速发展的人工智能带来了不可忽视的风险，这使他与美国总统唐纳德·特朗普产生了分歧，后者认为现有的保障措施已经足够，而且中国将从对人工智能发展的质疑中受益。

北京对灾难性风险保持公开沉默

路透社报道中更尖锐的观察之一涉及中国实验室领导人没有说的话。与 OpenAI 和 Anthropic 等美国前沿实验室的负责人不同，中国顶级模型开发商的领导人很少公开阐明能力日益增强的人工智能系统可能欺骗人类、逃避控制或造成灾难性伤害的可能性——而且自 9 月份美国的争论加剧以来，他们对这些风险基本上保持沉默。

中国官方媒体则驳斥了人工智能发展放缓的呼吁，称其源于“冷战剧本”——北京方面称，此举旨在维护华盛顿在尖端技术方面的主导地位，并将北京完全排除在全球人工智能治理体系之外。

因此，DeepSeek 出席理事会具有双重意义：它同时是北京迄今为止对全球人工智能风险对话最明显的参与，也是对中国实验室是否会参与灾难性风险框架的一次考验。

特习会前的会谈

安理会会议并不是孤立的。美国财政部长斯科特·贝森特 (Scott Bessent) 于 9 月 21 日表示，美国和中国高级官员同意就人工智能安全问题举行进一步会谈，此前特朗普计划于本周晚些时候在华盛顿与中国国家主席习近平举行会谈。

这一顺序——在华盛顿举行的一次高风险峰会与在纽约举行的安理会辩论同时举行——突显了人工智能已经从技术政策文件转变为双边关系的中心。

看什么

周三的会议面临着三个问题。梁文峰是否改变主意参加。 DeepSeek 的声明是否涉及美国同行强调的纸牌风险（欺骗、失去控制），还是停留在公平准入和发展权的更安全基础上。以及该委员会能否提出超出熟悉立场的任何内容。

该委员会在人工智能方面的记录很少：2023 年举行第一次会议，本月秘书长发出警告，而且没有具有约束力的框架。但作为中美之间关于谁来制定前沿人工智能规则以及谁的担忧得到认真对待的争论的舞台，它几乎没有竞争对手。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →