联合国科学顾问小组发出严厉警告，称人工智能的发展速度超过了管理人工智能所需的监管和科学框架，如果不紧急解决这一差距，可能会造成灾难性损害。

路透社于 2026 年 7 月 1 日报道的该小组的调查结果突显了人工智能的飞速发展与发展缓慢的治理和监督世界之间日益紧张的关系。包括《以色列时报》、《阿拉伯新闻》和 MSN 在内的多家媒体证实了这一评估，该评估将人工智能视为对全球稳定最严重的新兴风险之一。如需全面了解这些进展，请关注 AI Buzz Wire 上的最新人工智能进展。

人工智能超越科学和政策

该小组的核心信息是，人工智能能力的扩展速度不仅超出了监管能力，而且超出了评估其安全性所需的科学理解。该警告因其将问题视为系统性问题而引人注目：不仅仅是个别公司行动太快，而且整个评估、测试和监督生态系统在结构上落后。

据 Technology Org 和 MSN 报道，该小组警告说，人工智能系统正在部署在其行为尚未完全理解的环境中，甚至连其创建者也没有完全理解。这就产生了专家小组所描述的漏洞窗口——在这个时期，强大的系统正在使用，但预测或遏制其故障模式的工具尚不存在。

该评估呼应了研究人员和政策专家提出的担忧，他们认为当前的测试方法（包括红队和基准评估）不足以捕捉功能日益强大的系统中的新故障模式。联合国小组的干预为主要是学术辩论的问题提供了制度上的重视。

全球南方被排除在人工智能治理之外

该小组提出的另一个担忧是，发展中国家被排除在塑造人工智能治理的对话之外，《阿拉伯新闻》的报道也进一步强调了这一担忧。该小组警告说，人工智能政策几乎完全由富裕国家和总部位于这些国家的公司制定，这使得南半球国家在影响其经济、安全和社会的决策中没有有意义的代表权。

这种治理差距具有实际后果。没有国内人工智能产业的国家可能缺乏评估进口系统、规范其使用或与供应这些系统的公司谈判公平条款的技术专业知识。该小组呼吁发展中国家更多地参与国际人工智能治理论坛，认为目前决策权集中在少数国家手中既不公正又危险。

这一警告发出之际，全球南方的一些国家已经开始制定自己的人工智能战略，但资源和专业知识往往有限。该小组呼吁包容，反映出人们认识到人工智能风险——从经济破坏到自动错误信息——不尊重国界。

“灾难性风险”在实践中意味着什么

专家组使用“灾难性损害”一词意义重大。在人工智能安全文献中，灾难性风险通常是指涉及大规模经济破坏、大规模杀伤性武器的使用、自动化宣传对民主制度的侵蚀或依赖人工智能的关键基础设施系统故障的后果。

该小组没有具体说明它认为最有可能出现哪些风险。然而，警告的广度——涵盖从科学完整性到国家安全的方方面面——表明了一种观点，即人工智能总体风险状况的上升速度快于单个风险的评估和缓解速度。

该评估与人工智能安全中心、人类未来研究所和各个政府咨询机构等机构越来越多的研究相一致。联合国专家小组干预措施的独特之处在于其全球范围和对协调国际行动的呼吁，而不是迄今为止主导政策格局的零散国家法规。

监管环境

这一警告是在监管活动加强之际发出的。在美国，白宫加速制定人工智能模型标准，包括管理前沿模型发布的新行政措施。欧盟的人工智能法案继续分阶段实施，针对高风险人工智能系统的条款现已生效。中国实施了自己的一套人工智能法规，重点关注内容控制和算法透明度。

然而，该小组的评估表明，即使这些努力虽然规模巨大，但仍然是被动的而不是主动的。法规是针对现有功能而制定的，而下一代系统已经在开发中。专家组警告说，这种结构性滞后是最大的危险所在。

保持人工智能领先地位

有关人工智能政策、治理和全球风险的最新信息，请访问 AI Buzz Wire。

阅读更多人工智能新闻 →