据《独立报》《星期日泰晤士报》报道，国王查理三世将在苏格兰召集世界上最著名的人工智能公司的领导人，询问他们如何“为了人类的利益”开发这项技术。这次会议让英国君主与 Nvidia、Anthropic、Google DeepMind 和 OpenAI 的高管进行了面对面的交流，而此时该行业的领导者正在公开讨论是否应该放慢发展速度。
《纽约时报》以同样的方式描述了这次聚会：在呼吁放慢发展速度的背景下，国王将召集人工智能领导人，在 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发表文章敦促行业将安全置于速度之上的两天后，这场节奏辩论成为一个明显的仪式性阶段。 更多相关背景，请参阅我们的AI行业报道。
谁参加
据《独立报》援引《星期日泰晤士报》报道，据悉出席者包括英伟达首席执行官黄仁勋、谷歌 DeepMind 创始人德米斯·哈萨比斯爵士以及量子计算公司 IonQ 董事长兼首席执行官尼科洛·德马西。 Anthropic 和 OpenAI 的领导者预计也将参与讨论。
一位与会者从企业名册中脱颖而出：方济会神学家保罗·贝南蒂蒙席（Monsignor Paolo Benanti），担任教皇人工智能和技术伦理方面的顾问。他的出席表明，峰会的雄心超越了产品政策，扩展到了人类尊严问题——自罗马早期倡导国际人工智能伦理框架以来，梵蒂冈已经占据了自己的领域。
具有熟悉剧本的“中立召集人”
一位王室消息人士告诉该报，国王打算扮演他在数十年的环保倡导中完善的角色。 “国王在那里召集、倾听和鼓励这些讨论，并提出这样的问题：‘我们如何为了人类的利益而开发人工智能？’”消息人士说，这与查尔斯在环境和水资源短缺问题上的长期工作直接相似。
据消息人士透露，国王希望讨论能够“对开发这项技术的责任和机遇产生更广泛的理解，确保任何技术发展仍然以人类造福社区为中心”。他还计划提出一个具体问题：为该技术建立一套共享原则是否会有帮助。 “他的感觉是，这不是一件容易做的事情，但这并不意味着我们不应该尝试，”消息人士补充道。
配方很重要。查尔斯不参与监管谈判，也不拥有立法权。他所提供的是《新闻国际》所描述的“中立召集人”的姿态——一个有足够地位的人物，可以将竞争对手的高管聚集在一张桌子旁，而不会导致任何人因出席而放弃竞争优势。
迪奇利宪章
该活动将由迪奇利基金会监督，该基金会是一家英美组织，长期以来一直为政治、商业和科学领域的领导人举办非正式的务虚会。据《星期日泰晤士报》报道，该基金会已为人工智能领导者起草了一份章程草案。
据了解，该宪章包括一套“共同原则”，将“帮助指导人工智能的未来应用，不仅作为能力和效率的驱动力，而且作为维护人类尊严并为人类和地球繁荣做出贡献的工具。”
这种语言故意远离欧盟人工智能法案中以合规为中心的词汇或华盛顿流传的自愿测试框架。这是否不仅仅是说说而已，将取决于高管们同意支持什么——以及其中任何一个是否能经受住商业现实的考验。
完美的时机，无论是偶然还是设计
此次峰会恰逢今年人工智能行业最重要的一周。阿莫迪周六发表的文章警告说，自今年夏天以来，人工智能“发展速度大大加快”，并认为在六到十二个月内，流氓特工群可能会带来互联网规模的风险。他的呼吁得到了意想不到的支持——埃隆·马斯克写道“达里奥是对的”，OpenAI 的山姆·奥尔特曼支持独立测试——而特朗普总统则完全拒绝了经济放缓的框架，指出与中国的竞争。
在此背景下，白金汉宫坚持认为峰会并不是要放慢速度，这被解读为谨慎的定位。国王的问题——如何为了人类的利益而开发人工智能——完全回避了节奏之争，同时含蓄地认可了其前提：技术的发展轨迹是人类集体选择的问题，而不是必然性。
英国以前来过这里。由英国政府召集的 2023 年布莱切利公园人工智能峰会发表了第一份关于前沿人工智能风险的跨国宣言，并设定了聚集竞争对手实验室集体绞尽脑汁的模式。苏格兰集会的独特之处在于它的召集人：国家元首没有监管机构，没有选举周期，原则上与公司获胜无关。
峰会能做什么、不能做什么
皇家度假胜地的任何公报都不会限制 Nvidia、Anthropic、DeepMind 或 OpenAI 本季度发布的产品。如果会议产生了一份经认可的原则宪章，其执行机制将是声誉——在一个在经历了一周世界末日头条新闻后目前竞相展示安全严肃性的行业中，声誉可能比平时更有价值。
《纽约时报》指出，此次会议正值超级智能末日情景引发广泛争论之际，该情景已经吸引了业界的注意力。查尔斯花了五年的时间利用他的平台召集不太可能的盟友来应对长期风险，对他来说，人工智能只是最新的——也许也是最重要的——一章。君主的道义劝说是否能够推动价值数万亿美元的公司仍是一个悬而未决的问题。这些公司同意参加，说明该行业现在有多么希望被看到提出同样的问题。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
