連邦政府の最高監視機関によると、人工知能の責任ある倫理的な使用を調整する任務を負う国防総省の事務所は大幅に人員が不足している。軍が「AIファースト」の戦闘部隊になることを推進しているにもかかわらず、この不足が同省の主力のAI倫理枠組みの妨げとなっている。

政府会計検査院は、スターズ・アンド・ストライプス紙が火曜日に報じた10月14日付けの報告書で、首席デジタル・人工知能局の人員不足により、国防総省の「責任あるAI」構想を完全に実施することができていない、と述べた。この発見は、防衛における AI の意思決定が研究室から戦場に移り、人員不足が具体的な結果をもたらす瞬間に当てはまります。

10 ポジション中 3 ポジションが埋まっており、空席が残っている可能性があります

責任ある AI は、戦闘システムと非戦闘システムの両方にわたる AI 機能の開発、展開、運用を管理する国防総省の統合倫理フレームワークです。 CDAO は、責任ある AI フレームワークを含む、同省の AI の導入と統合を主導するオフィスです。CDAO は、その人員配置レベルを、監督機能が実際にどれだけの能力を持っているかを直接測定するものとしています。

GAO は、2 月の時点で同局の認可された 10 名のポストのうち 3 名のみが埋まっていたことを発見した。国防当局者らは監視機関に対し、残りのポストが補充される可能性は低いと述べたが、このことは、不足が一時的な雇用の遅れではなく、国防省の監督義務の構造的条件であることを示唆していると認めた。

独自の保護手段を上回る「AI ファースト」戦略

人員配置の開示は、同省の戦略的方向性と気まずいことに隣り合わせになっている。 GAOの報告書によると、ピート・ヘグセス国防長官は1月にAI戦略を発表し、AIの統合と導入の加速を改めて強調した。報告書によれば、この戦略は「戦時の足場を強調し、国防総省があらゆる要素にわたって『AIファースト』の戦闘部隊になることを求めている」という。

対照的なのは、戦闘システム全体で AI への義務が加速しており、認可された強度の 30% で稼働しているオフィスによって監督されているということです。 AIの急速な開発は、そのテクノロジーが従来の立法監視や人間の監督を上回っているため、世界中の統治機関に課題を与えている。そして国防総省の監視機関は現在、世界最大の軍事官僚機構内部のギャップを文書化している。 AI の政策とガバナンスに関するレポートの詳細については、AI ニュース ホームページ をご覧ください。

賭け金: 政策を再構築したターゲティング、ガードレール、拒否

不十分な監視がもたらす結果は仮説ではありません。ブルームバーグは先月報じ、星条旗は、イラン戦争初日の2月28日に米国がトマホークミサイルで小学校を攻撃し、100人以上の児童が死亡した事件には、標的選択に使用されたAI対応ソフトウェアが一因だったと繰り返し報じた。

軍のAIガバナンスを巡る戦いは民間部門も巻き込んでいる。 2月、ピート・ヘグセス国防長官とドナルド・トランプ大統領は、アンスロピックに対し、政府契約のクロード・モデルのシステムが完全自律型兵器や大規模監視に使用されるのを妨げる安全ガードレールを撤去するよう圧力をかけた。 Anthropic社が拒否すると、政府は同社を国家安全保障上のリスクに指定し、政府機関によるClaudeの使用を禁止した。AI Buzz Wireはブラックリストを支持した控訴裁判所の判決を含め、法廷を通じてこの対立を報道した。

30% でのランニングが実際に何を意味するか

認可された10の役職のうち3つの監督局は、未処理の官僚組織ではなく、意図した能力の数分の一で運営されている枠組みだ。責任ある AI イニシアチブは、実際の兵器や通信プログラムが従わなければならない審査プロセスに倫理原則を変換するのは CDAO に依存しており、埋まっていない議席はすべて、仕事が取り消されるか、ポートフォリオ全体に張り巡らされた残りのスタッフに委ねられることになります。

国防当局者らはGAOに対し、欠員が補充される可能性は低いと述べたため、この制約は循環的というよりも持続的なものとみられる。プログラムは引き続き AI 機能を活用し、倫理的枠組みを適用する実際の負担はますます少数の人々に集中し続けるでしょう。

最後の防衛線としての人間倫理

軍事弁護士らは、人員配置のギャップにより、人間の判断が唯一の意味のあるチェック手段となると主張している。スターズ・アンド・ストライプス紙によると、タリー・リンキー事務所の軍事法専門弁護士ショーン・ティモンズ氏は火曜日の電話で、「軍事的意思決定は人間の倫理に基づいていなければならない。コンピューターに何かを達成するように命令するだけで手っ取り早い方法かもしれないが、それは私たちが起こそうとしていることを達成するための倫理的、道徳的、または正当な法的方法論ではないかもしれない」と述べた。

AI業界の一部のリーダーは、自律型AIエージェントの制御が失われると存続の脅威となる可能性があると警告し、AIの進歩のペースを緩めるよう求めているが、この警告は自律型兵器に適用される場合に特に重要となる。 GAOの調査結果は、今のところ、米国の軍事力の中で最も急速に成長している要素が、それを統治するための人的インフラよりも先に拡大されつつあることを示唆している。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→