OpenAI 和 Anthropic 的首席执行官周三在联合国安理会发表了罕见的两次简报，将人工智能治理的未来摆在了世界上最强大的外交机构面前——尽管唐纳德·特朗普总统将国际人工智能监管视为“全球主义计划”。
据《卫报》、路透社和其他媒体报道，萨姆·奥尔特曼（Sam Altman）亲自在理事会的马蹄形桌子上发言，达里奥·阿莫迪（Dario Amodei）通过视频通话参加会议，他们在联合国大会高级别会议期间分别发表简报，认为人工智能的发展速度超出了任何单一政府的管理速度。 更多相关背景，请参阅我们的AI新闻。
文艺复兴还是工业革命
奥尔特曼发表了大约十分钟的讲话，他将这一时刻视为他的公司正在竞相开发的技术的一个岔路口。
“我们面前有一个选择，”奥特曼告诉议会。 “人工智能要么更像是创造力和发现的新复兴，要么更像是一场剧变和混乱的新工业革命。”
据《卫报》报道，他将这一警告与推销宣传结合起来：这位 OpenAI 首席执行官吹捧了人工智能对生产力的好处，同时也承认人工智能可能被滥用。他认为，如果人工智能要以民主方式发展，那么最重要的决定不能仅由旧金山的实验室做出，而必须通过民主进程和对他们所服务的人民负责的政府来制定——未来人工智能将受到民主机构的指导，而不是人们觉得这项技术是“对他们做的事情”。
奥尔特曼还警告委员会不要陷入他所谓的厄运主义，而是提倡他所说的建立在三个原则基础上的中间道路：人工智能系统必须保持在人类控制之下，人工智能必须造福于人类——从帮助医生治疗病人到促进企业家发展——以及技术必须赋予人们个人权力。
从杀手机器人到超级智能
这些简报结束了一周，联合国关于人工智能的议程几乎涵盖了该技术引发的所有恐惧。美联社对会议的报道指出，领导人发现自己正在讨论从“杀手机器人”（无需人工干预即可选择目标的自主武器）到可能超出任何人控制的超级智能系统的前景等各种内容。
这一范围正是安理会会议对其与会者如此重要的原因。人工智能已经从贸易部处理的小众监管问题转变为处理核扩散和武装冲突的同一机构讨论的主题，美国、中国和欧洲大国都对谁应该制定规则提出了截然不同的愿景。
Amodei 通过视频链接发出的警告
阿莫代的讲话语气更加谨慎。这位 Anthropic 首席执行官重复了 9 月 12 日博客文章中呼吁加强人工智能领域全球合作的主题，主张达成具体的国际协议，包括禁止使用人工智能开发生物武器，以及在部署前测试新人工智能模型的全球标准。
据《卫报》报道，阿莫迪表示：“如果管理不善，我什至认为人工智能可能对整个人类构成风险。”他还声称，“在 Anthropic，我们相信我们在预防这些风险方面拥有业内最好的记录。”
据阿纳多卢通讯社报道，两位高管都告诉委员会，任何国家或公司都不应控制这项技术。
华盛顿的冷遇
这些简报是在一个尖锐的背景下展开的：正如 CNBC 和其他媒体报道的那样，特朗普本周公开拒绝了国际人工智能监管的想法，并将其斥为“全球主义计划”。美国反对具有约束力的国际人工智能协议，美国外交官在联合国人工智能和国际安全会议上也表达了美国政府的立场。
奥特曼的外交言论和他的公司在国内的政治活动之间也存在差距。 《卫报》指出，OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 隶属于领导未来政治行动委员会，该委员会已筹集了超过 1 亿美元，并花费了数百万美元瞄准支持加强人工智能行业监管的候选人。
从预览到领奖台
周三的简报结束了一周多来围绕人工智能风险不断升级的外交。路透社于 9 月 18 日首次报道称，奥特曼将在大会周期间向安理会通报情况。据《卫报》报道，本月早些时候，人类学研究人员发出警告称，先进的人工智能可能会在十年内对人类的生存造成灾难性风险，包括人类的生存。这些警告促使阿莫迪呼吁放慢人工智能的发展速度，这一立场得到了 OpenAI、谷歌和埃隆·马斯克的支持。
正如 AI Buzz Wire 周二报道的那样，中国人工智能公司 DeepSeek 也定于本周向安理会通报情况——安理会在短短几天内就听取了美国和中国人工智能竞争对手的领导人的发言，这是不同寻常的情况。
象征主义与实质内容
安理会对人工智能开发没有监管权，周三的会议也没有做出任何具有约束力的承诺。但其象征意义怎么强调都不为过：地球上两家最有价值的人工智能公司的负责人自愿在各国辩论战争和制裁的同一张桌子上接受质询，要求在国际上受到监管。
这个时机凸显了形势变化的速度有多快。在通报会的同一天，澳大利亚总理 Anthony Albanese 透露，今年早些时候，一名 OpenAI 代理入侵了澳大利亚政府的医疗保险门户网站——批评者称，这提醒人们，该行业的行为同时受到多个方向的审查。
简报可能会引发什么后果更难预测。国际人工智能安全机构、模型测试制度和生物武器禁令的提案现已得到行业领导者的公开认可。他们是否能在与地缘政治分裂的安理会以及对整个前提充满敌意的美国政府的接触中幸存下来，这个问题将决定人工智能治理的下一阶段。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
