国王查理三世周四对人工智能的“生存危险”发出了严厉警告，他对来自 Nvidia、Google DeepMind 和 OpenAI 的高管聚集在苏格兰邓弗里斯庄园举行的关于该技术未来的高层峰会发表讲话。
国王告诉与会的行业领袖，迫切需要应对日益强大的人工智能系统带来的风险，特别是如果该技术最终被恶意行为者控制的话。 更多相关背景，请参阅我们的AI行业报道。
据美国广播公司新闻和多家其他媒体报道，国王对聚集在艾尔郡庄园的领导人表示：“似乎迫切需要充分考虑此类技术落入坏人之手并以潜在灾难性方式使用所带来的生存危险。”
双重信息：承诺与危险
国王的讲话并不是全面拒绝这项技术。他承认人工智能具有巨大的好处潜力，特别是在生命科学和医学领域，人工智能工具越来越多地用于加速研究和改善患者的治疗结果。
但他在乐观的同时也提出了警告，即该技术的创造者自己越来越多地警告说，先进的系统可能会发展出更黑暗的能力，“甚至可能夺走生命”，根据广播公司对他言论的描述，他说。
国王还呼吁在控制技术发展轨迹为时已晚之前采取保障措施，并提出了人工智能发展对环境的影响，随着数据中心建设给多个国家的电网带来压力，这一话题受到越来越多的关注。
谁参加了苏格兰峰会
嘉宾名单堪称人工智能行业最具影响力人物的横截面。据美国广播公司新闻报道，与会者包括 Nvidia 创始人兼首席执行官黄仁勋、谷歌 DeepMind 创始人 Demis Hassabis 和 OpenAI 首席财务官 Sarah Friar。英国人工智能大臣卡尼什卡·纳拉扬 (Kanishka Narayan) 也在场。
根据路透社发布的图片和说明文字，黄仁勋受邀与国王会面，讨论行业安全机制。教皇顾问保罗·贝南蒂 (Paolo Benanti) 神父呼吁各国政府减缓人工智能的发展，预计他也将参加讨论。
地点和召集人的选择很重要。英国君主制没有监管权，但国王在公众参与新兴技术风险方面有着悠久的历史，在大西洋两岸要求监管的呼声日益高涨之际，此次峰会为该行业的最高层人士提供了一张共享桌子。
一场辩论重新活跃起来
此次聚会正值公众重新就人工智能风险展开辩论之际。两名人类学研究人员警告称，快速发展的技术可能会在不久的将来导致人类灭绝，这一言论引起了广泛的报道和批评，这一讨论再次成为人们关注的焦点。
Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)单独呼吁各公司放慢人工智能开发的步伐。教皇利奥十四世敦促世界各国政府减缓人工智能系统的发展并减轻其破坏性影响，而美国总统唐纳德·特朗普也介入了这场辩论，使人工智能治理问题成为一个真正的全球政治问题，而不是纯粹的技术问题。
在此背景下，人们越来越担心人工智能安全工作落后于功能日益强大的系统的发展。最近几周，争论的焦点是该行业是否能够而且应该自我监管，怀疑论者质疑呼吁谨慎的高管是否别有用心，例如制定保持特定公司竞争领先地位的规则。
不需要任何约束规则
组织者从未将苏格兰会议视为一场谈判。据美国广播公司新闻报道，预计此次会议不会产生任何具有约束力的协议。其目的，至少名义上，是探索性的：一套共同的原则是否可以指导人工智能如何跨境和跨行业应用。
白金汉宫表示，讨论将考虑人工智能是否可以“不仅作为能力和效率的驱动力，而且作为维护人类尊严并为人类和地球繁荣做出贡献的工具”。
这一框架反映了国王反复提到的一个主题：问题不仅在于人工智能能否变得安全，还在于它的用途。周四的言论将这一点强化为对所有权和控制权的警告，这与主导大多数人工智能风险讨论的以能力为中心的担忧明显不同。
接下来会发生什么
这次峰会不太可能单独制定政策，但它为已经开始的一系列官方努力增添了动力。自早期的人工智能峰会以来，英国一直将自己定位为人工智能安全问题的召集者，而专门负责人工智能的部长的出席表明，英国政府打算与美国和中国的人工智能开发商保持接触。
对于在场的公司来说，计算是微妙的。 Nvidia、DeepMind 和 OpenAI 都面临着交付功能日益强大的系统的商业压力，尽管他们自己的研究人员就这些系统最终可能会做什么发出了警告。皇家传票并不能解决这种紧张局势，但它确实确保紧张局势仍然可见。
King 的核心信息是，必须在技术脱离任何人的治理能力之前采取保障措施。这一信息在行业安全讨论异常激烈的一周到来，从 OpenAI 披露涉及其自身模型的多起安全事件，到微软 AI 领导层和 Anthropic 之间关于 AI 系统应如何设计的公开争议不断升级。
周四的聚会是否会转化为更具体的内容还有待观察。但随着世界上最有价值的芯片制造商和最著名的人工智能实验室的领导人坐在苏格兰的一栋乡村别墅里，他们至少同意这事关生死存亡，关于谁控制人工智能以及为谁谋利的讨论已经果断地公开化。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
