据路透社周五援引 OpenAI 发言人的话报道，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 将于下周在纽约举行的联合国大会年度世界领导人聚会期间亲自向联合国安理会通报情况。
简报将在定于周三举行的关于人工智能和国际安全的安理会公开会议上进行，届时这个由 15 名成员组成的机构将在大会高级别会议周期间召开会议。此次会议由担任该理事会九月主席国的法国召集，并将由法国欧洲和外交部长让-诺埃尔·巴罗主持。 更多相关背景，请参阅我们的AI新闻。
OpenAI 发言人告诉路透社：“山姆·奥尔特曼将于下周在联合国安理会公开会议上亲自通报情况。”
奥特曼预计会说什么
据路透社报道，奥特曼的讲话预计将重点关注国际协调和共享安全标准的必要性，以及 OpenAI 为确保世界各地的人们从人工智能中受益而采取的步骤。
此次亮相将世界上最著名的人工智能高管带到了负责维护国际和平与安全的机构面前，而此时各国政府越来越多地将先进人工智能不仅视为一种经济机会，而且视为一种对国家和国际安全有直接影响的技术。
人择也可能在房间里
外交官们告诉路透社，他们还预计 Anthropic 的高层将出席会议，但这一参与尚未得到证实。 Anthropic 没有立即回应置评请求。
鉴于该公司近几个月来在前沿人工智能风险方面的高调姿态，包括呼吁协调一致地放缓能力日益增强的系统的开发速度，Anthropic 的任何露面都会引起特别的共鸣。就在安理会会议召开几周前，几位人工智能行业领导人敦促协调放缓，警告人工智能可能很快就会自行改进并脱离人类的控制。
法国的紧迫情况
在路透社看到的一份分发给理事会成员的概念说明中，法国强调“迫切需要采取行动，促进人工智能的安全和负责任的发展，以造福整个国际社会。”
该说明提到了出于恶意目的滥用人工智能的风险，并表示会议旨在让参与者展示他们对与失控或使用最新人工智能模型来制定、促进和开展影响国际和平与安全的行动相关的风险的分析。
理事会回归熟悉的主题
安理会之前曾讨论过人工智能问题。 2023年，该会议首次讨论人工智能的风险，当时中国警告该技术不应成为“脱缰之马”，美国则警告不要利用人工智能来审查或镇压人民。周三的会议代表了这种参与的显着升级：早些时候的会议听到了一般性警告，下周的会议将包括该公司首席执行官的现场简报，该公司的产品处于人工智能热潮的中心。
就奥特曼而言，早在当前的商业成功浪潮之前，他就一直在警告先进人工智能的风险。在 2015 年一篇题为“机器智能，第 1 部分”的文章中，他写道，“超人类机器智能的发展可能是对人类持续存在的最大威胁”——这句话早在 OpenAI 兴起之前就已经出现，并且在他向理事会发表讲话时将不可避免地再次出现。
为什么它很重要
简报的象征意义怎么强调都不为过。一位科技公司高管在安理会发表讲话，表明人工智能与核扩散和网络战一样，已经在国际安全议程中取得了多么大的进步。这也反映了辩论本身的转变：在围绕版权、就业和错误信息的争论主导了两年之后，联合国的召集力正面临着前沿风险——失去控制、恶意使用和缺乏共同的国际标准。
随之而来的是另一个问题。安理会对人工智能的发展没有监管权，其关于新兴技术的决议历来不具约束力。但这次会议为各国政府提供了表明立场的舞台，并为人工智能公司提供了外交部长和国家元首的听众，这是任何产品发布都无法比拟的。随着法国推动紧迫性，美国两家领先的人工智能实验室预计也将派代表出席，周三的会议很可能标志着人工智能治理成为全球安全外交议程上的固定项目。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
