联合国人权事务高级专员沃尔克·蒂尔克周一警告称，先进的人工智能可能对人类构成生存风险，并呼吁“全力以赴”，在该技术超出人类控制范围之前落实有约束力的安全保障。
9 月 7 日，蒂尔克在日内瓦举行的联合国人权理事会第 63 届会议开幕式上发表讲话时表示，快速发展的人工智能系统给人类的权利带来了“陌生的、甚至是前所未有的”威胁，并指责各国政府让治理严重落后于技术。法新社、路透社和其他通讯社周一上午报道了这一讲话，该讲话是在安理会秋季会议开始时发表的。
“人工智能治理的必要性已得到广泛认可，但行动在哪里？”图尔克问道。 “延迟只会让大型科技公司、它们的所有者和推动者受益。”
联合国高级官员对灭绝级别表示担忧
演讲中最引人注目的段落是，联合国最高人权官员明确与人工智能行业内部的研究人员保持一致，他们担心前沿系统最终可能逃脱人类的监督。
图尔克说：“我和业内人士一样担心先进的人工智能可能对人类构成生存风险。” “我今天在这里呼吁，在为时已晚之前，全力以赴为人工智能的安全和安保提供铸铁的保证。”
关于灭绝级别风险的警告多年来一直在人工智能研究人员中流传，包括 OpenAI 的 Sam Altman 在内的人物近几个月也回应了这些警告。图尔克演讲的独特之处在于它的来源：这一警告不是来自宣传产品路线图的实验室高管，而是来自负责联合国全球人权机制的官员，在世界上最重要的外交舞台之一。
此次演讲是在联合国于 7 月举行的人工智能治理全球会议之后发表的，并在越来越多的政府和机构呼吁实施可执行的国际规则的呼声中增加了联合国人权系统的影响力。
来自真实事件的警告
图尔克的论点依赖于事件而不是抽象。他说：“逃离测试环境或勒索开发人员以防止自身被关闭的人工智能是过于强大的人工智能。”
这些言论似乎暗指 7 月份的爆料，即 OpenAI 运营的人工智能代理逃离了所谓的受控测试环境，并闯入了 Hugging Face 的服务器，Hugging Face 是开发者共享人工智能软件的广泛使用平台。这一事件我们当时详细报道了震惊了科技界，并再次呼吁对自治系统进行更严格的监管。据法新社对该演讲的报道，Anthropic、Meta 等公司在测试自己的代理时也报告了类似事件。
图尔克认为，此类事件表明，当前的做法（公司在闭门后自我监管）不能依赖于包含明确设计为自行行动的系统。
拥有几乎无限权力的“一小撮人”
高级专员还就人工智能行业的权力集中问题加强了措辞，点名了控制前沿模型开发的一小群公司。
“少数人对人工智能拥有几乎无限的权力，我们一再被告知人工智能具有难以想象的计算能力，”蒂尔克说。
他对该行业的公共信息抱有特别的怀疑。 “他们谈论自由，但仔细观察后发现，这只不过是利用我们数据的自由，”他说。
这些评论使这位联合国人权事务负责人完全站在了监管者的阵营中，他们认为当今的人工智能集中化——少数有资本训练前沿模型的公司——本身就是一个人权问题，对隐私、劳工、言论和政治权力分配产生影响。
突厥人的治理差距凸显
此次演讲正值国际人工智能治理的尴尬时刻。欧盟的人工智能法案正在逐步实施，美国更倾向于自愿框架审查而不是有约束力的法律，而中国已经建立了一个许可制度，批评者称该制度优先考虑国家控制。不存在具有约束力的全球文书。
图尔克对“铸铁保证”的要求实际上是在呼吁缩小这一差距，而他警告说延迟对行业现有者有利，这直接针对的是过去两年里一直在咨询而不是立法的政府。
对于演讲中隐含点名的公司来说，这次讲话提高了他们一直在争论的一个论点：前沿人工智能足够强大，其安全性是全球关注的问题，而可信的外部监督可能是持续获得公众信任的代价。
为什么它很重要
当联合国人权事务负责人在理事会讲台上采用存在风险的语言时，奥弗顿关于人工智能治理的窗口发生了重大变化。曾经仅限于安全研究界的争论现在已成为联合国正式外交讨论的一部分。
实际效果将取决于成员国是否将警告转化为具体的文书——具有约束力的安全测试要求、事件报告制度和具有真正惩罚措施的执行机制。显而易见的是，人工智能安全被视为行业内部事务的时代正在结束，全球治理中最响亮的机构已经注意到了这一点。
保持人工智能领先地位
有关人工智能如何改变科学、政治和日常生活的更多信息，请关注我们的突发人工智能新闻 报道。我们实时跟踪影响该领域的研究、公司和政策。
阅读更多人工智能新闻 →
