教皇利奥十四世周一表示，对人工智能失控的担忧不是“假新闻”，应该认真对待，这是对那些认为该技术应该在没有政府监管的情况下发展的技术高管的尖锐谴责。据半岛电视台报道，法新社、美联社和路透社报道，在对法国进行四天访问后，教皇在返回罗马的飞机上举行的新闻发布会上发表讲话，教皇还针对英伟达首席执行官黄仁勋反对人工智能监管的立场（最初没有点名）。
这些言论正值人工智能政策的火热时刻。据路透社报道，唐纳德·特朗普总统将于周二在白宫接待包括 Meta 的马克·扎克伯格和 Anthropic 的达里奥·阿莫迪在内的科技领袖，尽管领先的科学家警告灾难性风险，但该行业仍反对监管。对于追踪政府与人工智能行业之间碰撞的读者，AI Buzz Wire 跟踪人工智能的最新发展 从华盛顿到布鲁塞尔再到梵蒂冈。
##“应该认真对待这些担忧”
在机上新闻发布会上，教皇被问到美国和中国这两个世界人工智能超级大国应该采取哪些措施来防止人工智能对人类造成灾难性风险。特朗普此前曾称对人工智能失控的担忧是“骗局”。
教宗表示：“我确实认为，许多人工智能领域的专家提出的担忧应该得到认真对待。”他坚持认为人工智能专家提出的安全问题应该得到讨论并采取行动。他敦促世界“促进对话、研究、调查，找到方法确保人工智能不会达到毁灭人类的地步。”
与黄仁勋的交流
最尖锐的时刻是利奥提到了他说他当天早上读到的一则公告：芯片制造商英伟达的负责人描述了一种在某些人工智能模型中插入护栏的方法。教皇对这位使者表达了公开的怀疑。
利奥说：“然而，他还是那个人，他说不应该设置任何限制，也不应该受到政府监管。”这是对黄的直接打击。根据池报告，黄在本月早些时候告诉哥伦比亚广播公司新闻，他同意特朗普的观点，即对人工智能的安全担忧被夸大了。
教皇提到的公告似乎是英伟达新推出的开放代理安全平台，这是一个硬件和软件项目，旨在监管自主人工智能代理并防止它们失控。观察人士并没有忽视这一讽刺之处：该行业最有价值的公司现在正在销售安全技术，同时游说反对安全倡导者所说的强制执行政府法规。
建立在人工智能警告之上的罗马教皇
周一的评论延续了利奥 16 个月教皇任期的决定性主题。第一位美国教皇在当选后几天内就将人工智能视为人类面临的最大挑战之一，并在他的第一本通谕中专门讨论了人工智能和对人类的保护——采取了不同寻常的举措，在五月份的梵蒂冈活动上与 Anthropic 联合创始人克里斯托弗·奥拉 (Christopher Olah) 亲自发布了这份文件。
在利奥的领导下，梵蒂冈稳步升级其支持国际人工智能治理的言论和举措，特别关注核技术、文化和艺术创作等领域。梵蒂冈五月发布的通谕是梵蒂冈有意与硅谷就人工智能的人力成本进行直接接触的一部分，这一举措现在已扩展到公开挑战高管。教皇表示，召集决策者的努力必须继续：“我们需要继续邀请政治领导人、人工智能领导人、社会组织、协会聚集在一起，看看已经发生的事情以及未来可能发生的事情。”
“我认为有足够多的人对此非常感兴趣……但我们必须继续努力，”他补充道。
为什么教皇会惹恼硅谷
Leo的干预很重要，因为它针对的是行业当前状况的核心矛盾。最近几周，OpenAI 因对齐失败而取消了前沿模型发布，英伟达和其他实验室纷纷推出代理安全产品，杰弗里·辛顿 (Geoffrey Hinton) 和约书亚·本吉奥 (Yoshua Bengio) 等著名科学家警告称，“智能爆炸”将失控——事实上，就在教皇发表上述言论的同一天。然而，该行业的主要声音仍然认为政府监管会扼杀创新。
教皇的信息是，这两件事不可能同时成立：如果风险足够真实，足以证明销售安全软件的合理性，那么它们也足够真实，足以证明规则的合理性。随着白宫本周为人工智能高管铺上红地毯，利奥将梵蒂冈定位为少数愿意直言不讳的全球机构之一。
保持人工智能领先地位
关注全球关于人工智能未来的斗争。 阅读更多 AI 新闻 AI Buzz Wire。
人工智能最新进展 →
