ディフェンススクープが確認したスティーブ・ファインバーグ国防副長官発行の覚書によると、国防総省は、軍事機密情報の分類と扱い方を管理するために人工知能を活用する試験プログラムを立ち上げているという。この指令は、今後 6 か月以内に自動セキュリティ分類機能の最初の小規模な導入を命じています。これは、同省が危険なほど時代遅れだとしているプロセスを徹底的に見直す取り組みの最初の動きです。

ファインバーグメモの中身 この件の詳細は、AIの最新動向をご覧ください。

月曜日に発行されたこのメモは、国防総省の既存の機密指定および機密解除手順が「機能不全」の原因であり、その使命を「危険にさらしている」と同省が主張している。時代遅れの手順が「重要な情報のタイムリーな公開」を遅らせ、同省に対する国民の信頼を損なっていると主張している。

DefenseScoopによると、メモには「これらの手続きによって引き起こされる機能不全は、国家安全保障システムに負担をかけ、相互運用性を妨げ、重要なデータをストーブの中に閉じ込めることで技術革新を遅らせる誤った分類につながる」と述べている。

ACME: 中心となる空軍システム

この試験では、国防総省は空軍が最近開発した自動分類管理環境（ACME）と呼ばれるAI支援システムを使用する。メモでは空軍の文官トップがパイロットの執行代理人に指名されており、空軍の広報担当者はディフェンススクープに対し、軍務は「メモの指示に従う」と述べた。

ACMEは8月に公的に警告され、その際当局は業界に対し、軍が数十年にわたって使用してきた「手動で人間集約型」のプロセスに代わる分類管理エコシステムの構築への協力を求めた。その通知では、システムが緊張にさらされていることが説明されていた。何百人もの役人が情報を分類する権限を持っており、その多くが旧式のプログラムを使用し、古い文書を作成し、高いエラー率、頻繁な過剰分類、データの整合性の低下を示していた。同部門はまた、約 1 億 4,000 万ページのハードコピーのバックログを抱えています。

パイロットから単一の権威ある参考文献まで

メモによると、試験運用が成功すれば、自動化システムは最終的に同省の当初の分類決定すべてに対する「単一のデジタルで信頼できる参照」として機能することになるという。その責任は歴史的に、機密情報がどのように分類されるかを決定する特別に任命された人間の役人に属してきた。つまり、展開が成功すれば、これまでの中核的な政府機能の AI システムへの移行の中で最も重要な移管の 1 つとなることを意味する。

当局者が変化が必要だと主張する理由

自動化の必要性は、現代の軍事情報の膨大な量と速度にかかっています。 8月の情報提供要請では、手作業によるプロセスはデジタル時代の情報量や情報速度と「両立しない」と批判した。過剰な分類により、情報がそれを必要とする部隊や同盟国から遠ざけられます。過小分類は、能力や計画を敵対者にさらす危険性があります。どちらの方向のエラーもコストを伴い、ハードコピー ページの 7 桁のバックログがあるため、同部門は増分修正では不十分であると結論付けました。

新アメリカ安全保障センターの国防プログラムのフェロー、ジョシュ・ウォリン氏はディフェンススクープに対し、機密扱いが不十分な情報は敵対者の能力や計画を暴露する可能性がある一方、機密扱いが過剰な情報は検討プロセスの遅れによって差し止められたり停滞したりする可能性があり、「情報共有が調整にとって重要な連合環境では」必要な組織に情報が届かない可能性があると語った。同氏は、多くの場合、「情報の大部分は、誤分類を心配するほど必ずしも機密性の高いものではない」とし、だからこそ、より迅速かつ一貫した処理が部門全体に利益をもたらす可能性があると付け加えた。

アナリストは利益と現実のリスクを認識

ウォリン氏は、自動化は、過保護、過少保護、人間による誤ったラベル付けなどの情報の誤分類問題を解決し、特に現代の紛争で、迅速な情報の流れが決定的な利点になり得ることが示されているため、混乱を減らすのに役立つ可能性があると述べた。

しかしウォリン氏はリスクも指摘した。 AI を活用したシステムでは、誤分類がより速い規模で発生する可能性があります。同盟国やパートナーとの共有が高速化すると、受信側ネットワークのサイバーセキュリティ プロトコルに関する疑問が生じます。そして、加速された機密解除は「集合体」効果を生み出し、敵対者は個別に無害な開示から機密の洞察をつなぎ合わせることができます。

「誤分類の懸念がある」とウォリン氏は語った。 「一部の情報は機密性の高いものになるのではないかという、本質的な懸念があります。意図せずに誤って分類され、共有されてしまうのではないか、そして誰かがそれを捕らえられないのではないか？」

監督上の疑問が残る

ウォリン氏はまた、パイロットの簡潔さと、AIが元の分類機関の最終的な参照として機能する場合に人間の監視がどのように機能するかについても疑問を呈した。同氏はディフェンススクープに対し、「人間による監視を実際にどうやって導入するつもりなのか？それは永久に継続しなければならないだろう」と語り、システムは時間の経過とともに進化し、完全な信頼は決して達成できないと指摘した。

国防総省は、どの基礎となるAIモデルがパイロットを強化するのか、あるいは同省がこの目的でテクノロジーを使用することに懸念を持っているかどうかについての質問にはすぐには答えなかった。この指令は、AIの監視をめぐるワシントンでの広範な議論の真っただ中にあり、国防当局者は、敵対者が自国の軍隊全体にAIを配備している間、AIは傍観するにはあまりにも強力なツールであると主張している。同省がこれら 2 つの衝動、つまり積極的な導入と意味のある人間による制御のバランスをどのように取るかが、6 か月にわたる試験運用の決定的な問題となるでしょう。

空軍にとって、この任務は信任投票でもある。同軍は、分類改革に関する部門全体の議論がまだ理論的な段階にある間にACMEを構築したが、今回の覚書は、それが機能すれば各軍部門での機密の扱い方を再構築する能力の責任をACMEに託した。分類の未処理や過剰分類の苦情が慢性化しているその他の連邦政府にとっては、国防総省のパイロットが成功すれば、AI支援による情報処理のための初の大規模なテンプレートが提供されることになり、そこでは注意深く監視されることになるだろう。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →