木曜日に発表されたCNNの独占報道によると、米軍はAIチャットボットの助けを借りて作成されたが全くの虚偽であることが判明した情報報告書に基づいて、中国船舶を迎撃する危険なほどの危機に瀕した。

この件に詳しい4人の関係筋がCNNに語ったこの出来事は、イランとの戦争のさなかの今春初め、中東の中国船が核兵器計画の部品を輸送していると主張する報告書が米軍内に広まったときに始まった。この報告はすぐに警鐘を鳴らし、軍は船を迎撃する計画を立てて行動を開始した。このような記事を定期的に報道するには、AI ニュース の展開をフォローしてください。

飛行機が飛行中、搭乗準備完了

ＣＮＮの情報筋２人によると、米軍の武装メンバーらが乗船の準備をしていたという。ある関係者によると、軍用機はすでに飛行していたという。

当局が特別作戦司令部の分析官によってまとめられた報告書をさらに深く調査したところ、それが人工知能の助けを借りて生成されたものであり、分析官が使用したチャットボットが船が運んでいた物資を不正確に識別していたことが判明したのは、計画された作戦の直前になってからだった。 CNNは、誤認された貨物が実際に何であるかを知ることができなかったと報告した。

ある情報筋は、この報道は「全くの虚偽」であると述べた。また、同関係者は、これは「戦争を始めるところだった」と述べた。なぜなら、中国の船舶に対する米国のいかなる作戦も、両国間の武力紛争に発展する危険性があったからである。

虚偽の報告書はどのように作られたのか

このアナリストは、ハワイに本拠を置く米国太平洋特殊作戦軍が発信した船の積荷目録に関する諜報報告についてチャットボットに質問していた。 CNNは、チャットボットが市販製品なのか米国政府のツールなのかは明らかではないと報じた。

このボットは、オープンソースの情報と政府が保有する秘密信号の情報を融合し、船内の物質に関する運命的な結論に達しました。その後、分析者は再度 AI を使用し、調査結果を軍関係者が信頼する標準的な諜報報告書にまとめ、システム全体に広めました。

米国太平洋特別作戦軍と国防総省はＣＮＮのコメント要請に応じなかった。

AI を採用するための軍事競争

このニアミスは、米軍および諜報機関の当局者が、膨大な量の生の情報の分析や攻撃対象の選択から、予算編成、物流、サプライチェーンなどの日常的なアプリケーションに至るまで、業務のほぼすべての側面に AI を組み込むことを推進しているまさにそのタイミングで発生した。

ピート・ヘグセス国防長官は1月、軍のAI導入を加速することを目的とした同省の「人工知能加速戦略」を発表した。 「我々は実験を解き放ち、官僚的な障壁を排除し、投資を集中させ、軍事AIで確実にリードするために必要な実行アプローチを実証する」とヘグセス氏は戦略を発表したスピーチで述べた。

この戦略はアクセスの民主化を明確に求めており、同省に対し「米国の世界をリードするAIモデルをあらゆる分類レベルで300万人の民間人および軍人が直接手に入れる」よう命じている。

単一のルールセットはありません

しかし、この取り組みは分散化されており、政府の各部門が異なる命令や安全基準の下で異なるツールを使用していると複数の米国当局者がCNNに語った。これらのツールによって生成された情報を米国が検証する方法についての統一された基準はなく、さまざまなシステムの信頼性は大きく異なります。

軍や諜報アナリストが使用するAIシステムに詳しい元米国高官は、「内部ツールのほとんどは口紅を塗った商業的なもののコピーにすぎない」とCNNに語った。

AI ターゲティングはほとんど指導を受けずに「強化」されている

関係者によると、軍はターゲティングを支援するためにAIに急速に目を向けているが、この分野には致命的なミスが生じる明らかなリスクがある。軍の現在の政策に詳しい別の関係者はＣＮＮに対し、「標的化におけるＡＩの活用は確実に進んでおり、人間が関与することで民間人の死傷や兄弟殺しをどのように防ぐことができるのかについての本当の指針はない」と語った。

アナリストらはかねてから、国家が貧弱なデータや破損したデータに依存した場合、AIが壊滅的な計算ミスを引き起こす可能性があると警告してきたが、まさにそのような誤算は、米国が不正確な情報に基づいて中国の船舶に発砲する可能性があるものだった。

CNN によると、虚偽船舶報告書の背後にある一種の幻覚は、こうしたツールが政府を通じて普及し始めて以来、諜報機関全体で孤立した事件ではなくなっているという。

「AI により、悪いアイデアをより早く思いつくことができる」

AIが人間の制約から解放される可能性についてのシリコンバレーからの一連の悲惨な警告を受けて、ワシントンの政策立案者らは数週間にわたってAIについて熱心に議論してきた。しかし、中国船のエピソードは、別のより差し迫ったリスク、つまりAIシステムによって生成された不正確または誤解を招く情報に基づいて人間が悲惨な決定を下すことを強調しています。

複数の関係者がCNNに語ったところによると、特に若いアナリスト、つまりこれらのツールを使い慣れている人は、ツールを無批判に信頼する傾向が高く、AIはアナリストに対し、より迅速にインテリジェンスを生成して広めるよう圧力を強めており、間違いの扉を開いてしまっているという。

「AIのおかげで、悪いアイデアに早くたどり着くことができる」と関係者の1人は語った。

このエピソードは、米軍がAIを最も機密性の高いワークフローにどれだけ早く組み込むべきか、またAI支援報道によって部隊、航空機、武装要員を潜在的な戦闘作戦に移行させる前にどのような検証手順を必須とするべきかについて、既に白熱した議論に火をつける可能性が高い。今のところ、詳細は、存在する安全策がつぎはぎであることを示唆している。そして、このケースでは、定期的な諜報報告と国際的な事件との違いは、たまたまダブルチェックを行った当局者に帰着した。

AI の一歩先を行く

AI 政策、国家安全保障、その両方を形成するモデルに関するレポートの詳細については、AI ニュースをもっと読む をご覧ください。