根据行业出版物《数据中心动态》首次报道、本周《未来主义》报道的招聘清单,谷歌 DeepMind 正在招聘一个核专家团队来评估前沿人工智能模型是否有助于核武器的开发。
谷歌招聘网站上发布的招聘信息旨在寻找“高素质的物理学家和核工程师”,担任化学、生物、放射、核和高当量爆炸物(CBRNE)团队的核主题专家,该团队隶属于 DeepMind 的责任开发和创新组织。 更多相关背景,请参阅我们的人工智能资讯。
这份工作的实际要求是什么
最小栏很陡。候选人需要拥有等离子体物理学或核工程等领域的博士学位,或“同等的实践经验”,加上与美国政府实验室合作的记录,并熟悉包括库存管理、防扩散、军备控制或减少威胁等政策领域。
首选资格还包括:人工智能安全经验、计算建模专业知识、在主要激光用户设施工作的时间,以及设计“通过开发武器主题的双重用途科学代理而明显非机密和非出口控制”的安全评估的能力。
报酬符合专家要求。 Google 列出的薪资范围为 174,000 美元至 252,000 美元,此外还有 15% 的奖金。
为什么人工智能实验室需要武器专家
核心职责是评估核领域前沿人工智能模型的安全性。该清单将这项工作描述为“以明显非机密和非出口管制的方式评估裂变、聚变和热核武器扩散、辐射流体动力学、磁流体动力学等方面的模型援助”。
翻译自职位发布语言:DeepMind 希望专家能够确定其模型是否能够为核武器开发提供有意义的帮助,并且评估本身不会跨越分类界限。对“双重用途科学代理”的提及表明,基于相邻科学问题(例如辐射流体动力学)进行测试,这些问题代表模型不应回答的武器特定问题。
列表中指定的物理域不是任意的。辐射流体动力学和磁流体动力学描述了能量和等离子体在与核武器物理相关的极端条件下如何表现,这正是它们同时成为敏感话题的原因:这些领域的能力是弹头设计的基础,而基础科学也在聚变和天体物理学研究中公开发表。围绕此类“代理”构建评估问题可以让安全团队衡量模型是否可以导航边界知识,而评估本身不会成为扩散风险。
未来主义对这份清单的解读很直白:它表明谷歌顶级人工智能研究实验室预计其模型最终将面临真正的核内容问题,并正在聘请所需的专业知识,以便在问题发生之前捕捉到这种行为。这种框架是推测性的——招聘活动表明了准备工作,而不是证明当前模型可以产生可操作的武器制导——但专家需求的规模强调了实验室对待这一场景的严肃程度。
更大安全建设的一部分
这种招聘符合多年来定义前沿实验室行业的模式:人工智能公司招募跨学科的有资格的领域专家来对他们的模型进行压力测试。最初是用于模型训练的主题事实核查大军,现已逐渐发展成为针对灾难性风险领域的专门评估团队,其中 CBRN 是最敏感的评估团队之一。
DeepMind 自己的领导层已经公开发出警报。据路透社报道,上周,该实验室领导层警告称,人工智能支持的黑客攻击应被视为更大安全风险的“早期预警”,并预测人工智能可能会在大约两年内引发重大安全事件。建立 CBRN 评估小组是该言论的操作版本。
这一举措也是在谷歌人工智能业务发生结构性变革的时期推出的。 In August, the company reshuffled its AI leadership, with Reuters and CNBC reporting that longtime leadership changes moved responsibility functions around — and The Wall Street Journal separately reported that Google relocated an AI-responsibility team out of the DeepMind lab entirely as part of that shake-up. That the CBRNE team now sits inside a "Responsible Development and Innovation" organization shows how the safety apparatus has been reorganized — and expanded — even as reporting on the restructuring continues.
治理潜台词
还有一个政策层面。 Frontier AI companies are under growing pressure from governments to demonstrate that they can measure and control the most dangerous capabilities their systems might develop. Credible evaluations in nuclear and biological domains are becoming a de facto requirement for lab credibility — the safety-case work that regulators and oversight bodies increasingly ask to see.
In that light, hiring people who have spent careers inside the nonproliferation establishment serves two purposes at once: it builds the technical capability to run rigorous evaluations, and it borrows institutional legitimacy from the existing arms-control world.
这些列表在谷歌的招聘网站上仍然开放。无论这些角色象征着谨慎还是竞争定位,有一点是明确的:人工智能安全是多面手的工作的时代已经结束。
_本文基于 Data Center Dynamics 和 Futurism 的报道以及 Google DeepMind 的公开职位列表。_
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →