業界出版物Data Center Dynamicsが最初に報じ、今週Futurismが取り上げた求人情報によると、Google DeepMindはフロンティアAIモデルが核兵器の開発に役立つかどうかを評価するために原子力専門家のチームを雇用しているという。

Googleの採用サイトに掲載されたこのリストでは、ディープマインドの責任ある開発とイノベーション組織内にある化学、生物学、放射線、核、および高収量爆発物（CBRNE）チームの核分野の専門家としての役割を担う「高度な資格を持つ物理学者と核技術者」を求めている。 この件の詳細は、AIの最新動向をご覧ください。

仕事で実際に求められるもの

最低バーは急です。受験者には、プラズマ物理学や核工学などの分野で博士号を取得していること、または「同等の実務経験」に加えて、米国政府の研究所と協力した実績と、備蓄管理、不拡散、軍備管理、脅威の軽減などの政策分野に精通していることが必要である。

望ましい資格は、AI の安全性の経験、計算モデリングの専門知識、主要なレーザー ユーザー施設での作業に費やした時間、および「兵器に関するデュアルユース科学代理の開発によって明らかに非機密で輸出規制されていない」安全性評価を設計する能力など、さらに多岐にわたります。

報酬は専門家の要件に沿っています。 Googleは給与範囲を17万4,000ドルから25万2,000ドルとし、その上に15％のボーナスをプラスしている。

AI ラボに武器の専門家が必要な理由

主な責任は、原子力領域におけるフロンティア AI モデルの安全性を評価することです。このリストには、この研究が「核分裂、核融合、熱核兵器の拡散、放射線流体力学、磁気流体力学などにおけるモデル支援を、明らかに機密扱いではなく輸出規制のない方法で評価するもの」と記載されている。

求人文言からの翻訳: DeepMind は、自社のモデルが核兵器開発に有意義な支援を提供できるかどうかを判断できる専門家を求めており、評価自体が分類ラインを越えることなく判断できます。 「デュアルユース科学代理」への言及は、モデルが答えるべきではない兵器固有の質問の代わりとなる、放射流体力学などの隣接する科学的問題に基づいてテストが構築されていることを示唆しています。

リストに挙げられている物理ドメインは任意のものではありません。放射線流体力学と磁気流体力学は、核兵器の物理学に関連する極端な条件下でエネルギーとプラズマがどのように動作するかを説明します。まさにそれが、これらがデリケートなトピックである理由です。これらの分野の能力は弾頭設計の基礎ですが、基礎となる科学は核融合や天体物理学の研究でも公開されています。このような「代理」に基づいて評価質問を作成することで、安全チームは、評価自体が拡散リスクになることなく、モデルがその境界知識をナビゲートできるかどうかを測定できます。

Futurismのこのリストの解釈は率直だった。GoogleのトップAI研究所が自社のモデルが最終的には本物の核の内容に関する問題に直面することを期待しており、問題が起きる前にその挙動を捉えるために必要な専門知識を採用していることを示唆している。その枠組みは推測にすぎず、雇用の推進は準備を示しているのであって、現在のモデルが実用的な兵器の指針を生み出すことができるという証拠ではないが、専門家の要件の大きさは、研究所がこのシナリオをいかに真剣に扱っているかを強調している。

大規模な安全強化の一部

この採用は、長年にわたってフロンティアラボ業界を定義してきたパターンに適合している。AI企業は、モデルのストレステストを行うために学分野全体で資格のある専門家を採用している。モデルトレーニングのための主題ファクトチェッカーの軍隊として始まったチームは、壊滅的リスク領域の専門の評価チームへとますます進化しており、CBRN は最も敏感なチームの一つです。

DeepMind 自身のリーダーシップは公に警鐘を鳴らしています。同研究所の指導者らは先週、AIを利用したハッキン​​グの試みは、より大きなセキュリティリスクに対する「早期警告ショット」として扱うべきだと警告し、AIが約2年以内に重大なセキュリティインシデントを引き起こす可能性があるとの予測をロイター通信が報じた。 CBRN 評価チームの構築は、そのレトリックの運用バージョンです。

この動きは、Google の AI 事業における構造変化の時期にも到来しています。 8月、同社はAIのリーダーシップを再編し、ロイターとCNBCは、長年にわたるリーダーシップの交代により責任部門が異動したと報じた。またウォール・ストリート・ジャーナルは、Googleがその再編の一環としてAI担当チームをDeepMindのラボから完全に移転したと別途報じた。 CBRNE チームが現在「責任ある開発とイノベーション」組織内に位置していることは、再編に関する報告が続いているにもかかわらず、安全機構がどのように再編成され、拡大されてきたかを示しています。

ガバナンスのサブテキスト

政策の側面もあります。最先端の AI 企業は、自社のシステムが開発する可能性のある最も危険な機能を測定および制御できることを実証するよう政府からのプレッシャーにさらされています。核および生物学的領域における信頼できる評価は、研究室の信頼性に対する事実上の要件になりつつあり、規制当局や監督機関が安全性に関する取り組みの確認を求めることが増えています。

その観点からすると、不拡散施設内でキャリアを積んだ人材を雇用することは、2 つの目的を同時に果たします。それは、厳格な評価を実行するための技術的能力を構築することと、既存の軍備管理世界から制度的正当性を借用することです。

リストは Google の採用サイトで公開されたままです。その役割が警戒を示しているのか、競争上の地位を示しているのかにかかわらず、明らかなことが 1 つあります。AI の安全性がゼネラリストの仕事だった時代は終わったということです。

_この記事は、Data Center Dynamics および Futurism によるレポート、および Google DeepMind の公開求人情報に基づいています。_

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →