フェデラル・ニュース・ネットワークが月曜日に報じたところによると、国防総省は、国防総省が購入する人工知能システムがトランプ政権の「真実の追求」と「イデオロギーの中立性」の調達原則に確実に従うように設計された、契約およびプログラム担当者向けの新たな指針を発表した。

この指令は、国防総省の防衛価格・契約・買収政策担当主任であるジョン・テナグリア氏が出したもので、連邦政府における「目覚めたAIの阻止」というドナルド・トランプ大統領の課題を実行するための同省のこれまでで最も具体的なステップとなる。 この件の詳細は、AIの最新動向をご覧ください。

大統領令から契約言語まで

このガイダンスは、トランプ大統領が7月に署名した大統領令から直接受け継がれたもので、連邦政府機関に対し、購入する大規模な言語モデルが「[多様性、公平性、包括性]などのイデオロギー的教義に有利に反応を操作しない中立的かつ超党派のツール」であることを保証するよう求めている。この命令の中でトランプ大統領は、連邦機関には「イデオロギー的課題に対する真実性と正確性を犠牲にするモデルを調達しない義務がある」と宣言した。

その後、行政管理予算局は、大統領令の発表後に生じた疑問に対処するメモを発表した。国防総省の新しい文書は、これらの高レベルの命令を防衛調達の機構に翻訳したもので、AIシステムの購入や請負業者が同省の「偏りのないAI」原則に準拠していることを検証するさまざまな段階を職員に説明するテンプレートである。

フェデラル・ニュース・ネットワークによると、具体的には、テンプレートには、政府機関が調達に関する適切な透明性と文書要件を選択するのに役立つメモ、企業がコンプライアンスを証明するためにどのような文書を提供する必要があるかを示す標準化された勧誘文言、作業明細書や業績作業明細書に組み込むことができる正式な契約文言が含まれている。

指導であって義務ではない — 今のところ

テナグリア氏は文書の法的重要性を慎重に検討した。基礎となる大統領令とOMBメモの遵守は必須だが、新しい文書は「ガイダンスのみ」を目的としており、「公平なAI原則を文書化し、要請し、施行するための標準化されたアプローチ」を提供するものだと同氏は書いている。

「AI調達の複雑さとリスクは大きく異なることを認識し、国防総省のコンポーネントと要求活動は、特定のニーズと個々の要件の状況に合わせて、必要に応じてこの言語を改訂、調整、または補足する柔軟性を持っています」とテナグリア氏はメモに書いた。

この柔軟性が結果的に重要になる可能性があります。 AI モデルが「偏っていない」かどうかを測定し、その判断を契約ファイルに文書化することは、サイバーセキュリティ認定をチェックするよりもはるかに面倒な作業であり、ベンダーはモデル設計に関わる文書化の要求を拒否する可能性が高いです。

防衛 AI の商用化を目指す大規模な推進の一環

このガイダンスは、ピート・ヘグセス国防長官が商用AIを国防省に導入する取り組みを続ける中で発表された。今年初め、国防総省は同省を「AIファーストの戦闘部隊」にすることを目的としたAI戦略を発表し、ヘグセス氏は同省がデータセンターから戦術エッジのシステムに至るまで、AIコンピューティングインフラに多額の投資を行うと述べた。

議員らも並行して動いている。ジミー・パトロニス下院議員（共和党、フロリダ州）は、トランプ大統領の大統領令を成文化しようとしている。 「大統領と彼のチームは、真実を語るAIツールのみを活用するよう連邦政府機関に指示する賢明な大統領令を発令した」とパトロニス氏は述べ、「基礎的なプログラムが政治的に左傾化しているため、AIツールが軌道から外れる例が後を絶たない」と主張した。

AI ベンダーにとっての意味

現在公募に向けて競争しているフロンティアラボを含むAI企業にとって、このガイダンスは、商用AIの顧客セグメントの中で最も急速に成長している米国の防衛市場において、イデオロギー中立性の文書化が事実上の要件になりつつあることを示している。モデルのトレーニングと動作の監査証跡を作成できるベンダーは、扉が開いていることに気づくかもしれません。それができない国は、連邦調達がますます閉鎖的になる可能性がある。

実際的な効果としては、「偏りのない AI 」が政治的レトリックから世界最大のテクノロジー購入者契約における書面による要件へと卒業しつつあり、他のすべての政府機関が国防総省のテンプレートがどのように機能するかを監視しているということです。

ベンダーが実際に作成しなければならないもの

テンプレートの下では、立証責任はベンダー側に移ります。 AIを多用する契約に入札する企業は、自社のモデルが「偏りのないAI」原則に準拠していることを証明する文書を提供する必要があり、セキュリティ認定やサプライチェーン認証と並んで、新しいカテゴリーの買収事務手続きが効果的に生み出されることになる。その結果、契約担当者は標準化された文言を取得し、ゼロから草案を作成することなく入札に反映できるようになり、調達の専門家によれば、通常はこれによって方針が実践に移されるという。

このガイダンスは、国防総省が国防職員向けに商用AIアシスタントの政府調整版を展開し、職員向けに商用チャットボットを標準化する中で発表された。これらの契約にイデオロギーの中立性に関する文言を埋め込むことで、物流計画から日常的な管理業務に至るまで、あらゆる用途に使用されるシステムに政治基準が拡張されます。

残りの政府機関にとってのテストケース

他の政府機関は現在、国防総省のテンプレートを全面的に採用するか、独自のテンプレートを作成するか、議会の行動を待つかの選択を迫られている。パトロニス氏が大統領令の成文化を進めれば、その曖昧さは法令によって解決され、将来の政権が中立性の要件を覆すのははるかに難しくなるだろう。

この命令の批判者らは、言語モデルのイデオロギー的中立性を測定することは科学的に困難を伴い、論争の的となっているトピックの正確な説明を含む正当なモデルの動作を萎縮させる可能性があると主張している。支持者らは、調達基準がすでに日常的にベンダーにコンテンツ要件を課しており、モデル開発者は依然として他の場所で自由に販売できると反論している。

いずれにせよ、進行方向は明らかです。政府の最大の技術購入者は「公平なAI」を書面で定めており、国防総省にAIシステムを販売したいと考えている防衛請負業者は、満たさなければならない新たなチェックリストを手に入れた。そのチェックリストは文書化から始まり、配備されたモデルが中立性テストに合格しなかった場合、契約紛争に終わる可能性がある。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →