AP通信が土曜日に報じたところによると、フロンティアAIモデルの安全性テストを担当する米国の小さな政府機関の職員が最近、ホワイトハウスの事務所に非公式に出頭するよう求められており、同国のトップAI安全性評価者の独立性について新たな懸念が生じている。

AP通信によると、CAISSIとして知られ、商務省内にある「スーパーインテリジェンスのためのイノベーションと標準化センター」という事務所も研究発表を停止したという。この報告書は、制御不能になったAIエージェントに関する一連の報道に対する国民の不安が高まる中で発表され、人員が不足し、指導者がいなくなり、ますます静かになっている監視機関について説明している。 この件の詳細は、AIニュースをご覧ください。

CAISSI の活動と AP の発見

CAISSI は、新しい AI 製品が一般に公開される前にその安全性を評価する責任を負っており、その任務にはフロンティア モデルがサイバー攻撃やその他の深刻な危害への悪用にどの程度耐えられるかを評価することが含まれます。 AP通信によると、同センターの職員らは「最近」ホワイトハウスの事務所に非公式に出頭するよう求められたという。同通信は、議論に詳しい元政府高官２人が現職職員を守るために匿名で発言したと伝えた。ホワイトハウスは同センターに関する具体的な質問には応じなかった。

作戦の規模は小規模である。 AP通信の報道によると、CAISSIは年間約1,000万ドルを受け取っているが、これはフロンティアモデルのほとんどが米国で製造されているにもかかわらず、英国の同業者が受け取る額のおよそ8分の1である。

非公式の報告取り決めは、センターにおける最近の混乱にすぎない。 AP通信は、数か月前に遡るリーダーシップの空白について説明している。所長は4月に採用され数日以内に解雇され、彼の後任は辞任するまで数か月続いたが、現在は親研究所の所長が所長代理を務めている。実際には、これは現在、永久的な権限を持った誰もセンターの独立性を擁護していないことを意味する。

公開を停止したウォッチドッグ

AP通信によると、より重大な変化は、同センターがもはや行っていないことだという。 8月、議会はCAISSIがAIシステムが安全性テストでどのように機能するかに関する報告書の公表を中止した理由を質問した。導入前テストは、その結果がラボの外に表示される場合にのみ、モデル ビルダーに対する公開チェックとして機能しますが、現時点では表示されません。

この変化は突然現れたわけではありません。 10月、ロイター通信は、ザ・インフォメーションの報道を引用し、政権がCAISSI高官3名をホワイトハウスに異動させる計画を明らかにした。ホワイトハウス当局者は当時、商務省との調整に問題があり、同センターの指導部をAIの意思決定に近づける必要があることを示しているとザ・インフォメーションに語った。同報告書によると、当局者らは科学技術政策局を率いるマイケル・クラツィオス氏と国家サイバー局長ショーン・ケアンクロス氏に回答するとのこと。ハワード・ラトニック商務長官は約半年前に両氏を同センターの共同管理に招待していた。

合わせて読んでみると、AP通信の新しい報道は、この計画が非公式に、そして正式な再編に先立って、実際に実現されつつあることを示唆している。

独立性に関する懸念、双方向

AP通信が引用した評論家らは、サイバーセキュリティや生物兵器のリスクに関わる決定が政治化される可能性や、テクノロジー業界に都合の良いように調査結果が軟化される可能性があると懸念している。ブレナン司法センターのエイモス・トー氏はAP通信に対し、このような決定は社会に非常に大きな影響を与えるものであり、公の場で説明されるべきだと語った。アメリカ科学者連盟のキャロライン・シーゲル・シン氏は、CAISSIのようなセンターは、生活を劇的に改善したり、その逆を可能にする強力な機関であると述べた。

反論もあるが、AP通信はそれを却下していない。マルウェアの作成に役立つモデルの能力を評価することは国家安全保障の問題であり、その結果を誰が閲覧するのかを可視化したいと考えている行政には弁護できるケースがある。問題は制度的なものである。チームのスポンサーの意見に答える審判は試合を正すには不利な立場にあり、同センターは独立性を証明するはずの報告書の発行を停止している。

建設者と購入者にとってそれが重要な理由

フロンティアモデルに基づいて構築している企業にとって、報告書で特定された実際的なリスクは禁止ではなく、不確実性です。評価が秘密のままで、輸出規制や政府調達に反映されれば、研究室は決して目にすることも争うこともできない発見に基づいて、契約や市場を失う可能性がある。そのリスクは、何の警告もなくサプライチェーンを通じて下流の製品に伝播することになります。

次に注目すべき点が 2 つあります。 1つ目は、行政がセンターの常任理事を指名するかどうか、そして誰が選出するかということである。 2つ目は、公表された報告書に対する沈黙をめぐりすでに同センターに圧力をかけている議会が、同センターの独立性を法律に書き込む動きをするかどうかだ。どちらかが起こるまで、アメリカのフロンティア AI 安全審判は 1,000 万ドルの予算で活動し、常任のリーダーは存在せず、ホワイトハウスに向かう報告ラインを持っています。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →