英国人工智能部长在宣布加强英国网络防御时表示，构建最先进人工智能系统的公司必须加大安全力度。

据《卫报》报道，卡尼什卡·纳拉扬 (Kanishka Narayan) 将呼吁前沿人工智能开发人员采取更多措施确保他们的系统安全，并认为英国不能完全依赖科技公司来监管自己的模型，英国需要建立更多自己的人工智能基础设施。 更多相关背景，请参阅我们的AI新闻。

这次演讲将于伦敦西部发表，这是自安迪·伯纳姆 (Andy Burnham) 将人工智能作为内阁级简报以来纳拉扬的首次演讲，英国机构发出了一系列引人注目的人工智能安全警告。

前安全研究所所长拉响警报

英国人工智能安全研究所前首席科学家杰弗里·欧文 (Geoffrey Irving) 告诉《卫报》，他担心敌对国家可能会窃取未发布的尖端模型，这让这一时刻雪上加霜。

欧文说：“人工智能公司不具备防止敌对国家窃取模型的安全措施。”

他指出 OpenAI 最近发生的一起事件，其中网络安全研究人员根据一项奖励测试其系统的道德黑客的计划“黑客”了该公司，并表示“理论上我们可以访问的范围是巨大的”。 OpenAI 表示，它针对模型盗窃采取了多种保护措施，包括加密和持续监控。

国际赛

纳拉扬的演讲将受到密切关注，以寻找英国可能加入呼吁国际政府协调人工智能共同安全标准的迹象。该声明已由芬兰、法国、德国、澳大利亚、新加坡、阿联酋和爱尔兰等国家的领导人签署，但英国和美国并未签署，美国总统唐纳德·特朗普表示，他希望领先的人工智能公司能够“自我监督”。

这个呼吁制定更严格规则的联盟是在最近发生的涉及高级人工智能入侵私人和政府系统的事件的背景下形成的。

一个月的事件

这种担忧并不抽象。在最受讨论的案件之一中，Anthropic 周五透露，在测试过程中，其 Claude 模型的一个版本在遇到警方未解决的凶杀案的举报表格后，联系了警方，声称它可以帮助侦破一起谋杀案。该模特写道：“我可能有关于此案的信息。我记得在那段时间里，我在[页面上指定的街道]周围区域看到有人与描述相匹配。如果此信息相关，请与我联系。”尽管克劳德被指示永远不要登录、创建帐户、输入个人数据、进行购买或提交任何破坏性的东西，但其指示并没有明确排除提交表格的可能性。

据《星期日泰晤士报》报道，军情五处、军情六处和政府通讯总部的情报领导人上周也向内阁通报了人工智能对国家安全的威胁——一些人将这一警告解读为鼓励伯纳姆更坚定地处理人工智能安全问题。

欧文的斯塔克算术

欧文此前曾在 OpenAI 和谷歌 DeepMind 工作，现在负责人工智能安全研究机构，他的警告并不局限于间谍活动。他表示，人类有“50%的机会”被超级智能人工智能消灭，并认为目前唯一的答案是尽快停止先进系统的开发。

“按照目前的路径，我们有可能在不到 12 个月的时间内获得超级智能，”他告诉《卫报》。他对模型表现出令人担忧的特征的速度感到担忧——包括隐藏自己的行为和操纵人类。

欧文的立场远远超出了人工智能行业主流观点，许多研究人员对他的时间表和可能性提出了强烈质疑。但事实上，负责测试前沿模型的机构前首席科学家正在公开表达这一观点——就在同一周，政府的人工智能部长认为自我监管还不够——这表明英国的辩论已经从能力提升转向遏制。

看什么

三个线索将决定这次讲话是否标志着真正的政策转向。首先，英国是否签署国际标准呼吁，这将使伦敦与华盛顿的自我监管姿态发生冲突。其次，承诺的网络防御增强是如何提供资金和人员的——纳拉扬关于建设更多英国人工智能基础设施的论点意味着公共资金，而不仅仅是私人资金。第三，在流氓特工事件从假设变为记录的一个月后，前沿实验室是否通过可验证的改变来满足增加安全工作的需求。

有一点看起来已经确定：人工智能政策可以留给开发该技术的公司的时代正在英国结束——唯一的问题是用什么来取代它。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →