联合国秘书长安东尼奥·古特雷斯本周对人工智能发出了迄今为止最强烈的警告之一，在各国政府准备齐聚纽约参加联合国大会高级别会议之际，他宣称世界“无法承受人工智能安全方面的逐底竞争”。古特雷斯在世界领导人年度会议之前对记者发表讲话，将失控的人工智能与气候危机和日益加剧的不平等并列为地球面临的三大生存威胁。
路透社、联合国新闻和世界各地媒体报道的这一言论正值紧张时刻：联合国正在推动在人工智能治理方面进行具有约束力的国际协调，而华盛顿则发出了温和的信号，路透社指出，在特朗普总统淡化了更严格人工智能监管的必要性后，联合国秘书长发出了警报。
##“一个充满高度不确定性的时代”
古特雷斯在各国领导人抵达纽约前六天向媒体通报情况时表示，世界已经进入“一个高度不确定的时代”。他承认人工智能在健康、教育和气候科学等领域的“巨大潜力”，但警告说，该技术的发展速度超过了人类对其风险的理解。
他说：“世界无法承受人工智能安全方面的逐底竞争。”他认为，仅靠国家规则是不够的。 “国家行动固然重要，但全球协调也不可或缺。”
秘书长还对自愿暂停前沿人工智能开发在孤立的情况下（仅限于少数国家、无法验证或应用不均匀）是否有效表示怀疑。随着人们对美国和中国之间人工智能军备竞赛的担忧日益加剧，他承认地缘政治分歧使协调变得更加困难，而不是减少了必要性。他说：“如果我们认为，当风险太大时，人工智能的发展就会放缓，那么我们需要的不仅仅是良好的意愿。”
联合国新兴的人工智能治理机制
言辞的背后是过去两年悄然形成的治理架构。联合国成员国于 2024 年通过的全球数字契约，作为未来契约的一部分，呼吁建立两个新机制：一个评估人工智能风险和机遇的科学机构，以及一个政府可以调整其方法的年度论坛。大会于2025年8月正式成立。
第一个是人工智能国际独立科学小组，它于 7 月 1 日发布了初步报告。报告得出的结论是，人工智能的能力正在迅速进步，特别是在推理、编码和科学研究方面，同时也指出了一些风险，包括错误信息、歧视、侵犯隐私、网络攻击和可能变得难以控制的“超级智能”形式。
第二个是人工智能治理全球对话，被设计为双方的回应方：专家组提供证据，各国决定如何处理。
古特雷斯指出，该小组是全球知情决策的基础，并敦促各国政府建立护栏，“使人工智能安全、透明和负责任，并以人类尊严为中心”。他还推动了两项具体举措：人工智能儿童安全承诺和全球人工智能基金，以帮助发展中国家建设人工智能基础设施和能力。
跨大西洋分歧的扩大
联合国秘书长的干预是在欧洲的监管推动与华盛顿的放松监管转向之间存在明显分歧的情况下进行的。在欧盟实施人工智能法案、联合国机构建立评估机制的同时，美国政府强调创新和竞争力，路透社报道称，特朗普总统淡化了古特雷斯和其他官员继续提出的人工智能风险担忧。
当被问及联合国多久才能召开一次峰会以实现有效监管时，古特雷斯表示，这不可能在下周的大会期间举行，但应该很快就会举行，来自公共、私营、科学和民间社会部门的“所有人都参与其中”。
他语气中的紧迫感反映了行业内部最近发出的一系列警告。本月早些时候，Anthropic 的一位前研究员公开警告说，先进的人工智能可能对人类构成生存威胁，古特雷斯自己的言论将该技术的发展轨迹界定为国际社会不能再推迟的问题。
接下来会发生什么
当大会高级别会议开始时，人工智能将成为重要议题，同时还有关于加沙和乌克兰战争的辩论。联合国的科学小组和全球对话能否从空谈场所发展成为对国家政策具有真正影响力的机制仍然是一个悬而未决的核心问题，这将检验多边机构是否能够以接近其试图管理的技术的速度前进。
目前，秘书长向世界领导人传达的信息是明确的：风险是全球性的，治理不是，而缩小这一差距的窗口正在缩小。
_保持领先地位。在 AI Buzz Wire 上关注人工智能规则的全球斗争和人工智能领域的重大新闻。_
