月曜日にブルームバーグが報じ、ヤフーニュースやその他の報道機関がまとめた調査結果によると、米国防総省の調査は、人工知能への過度の依存が3月のイランの学校へのミサイル攻撃の一因であり、約120人の児童が死亡したと報告されていると結論づけた。
この発見は、国防総省が致命的な戦闘結果の一部がAIシステムへの依存によるものであると正式に認定した初めてのことであり、この発見は、米軍が標的とする権限をどこまで機械判断に委任すべきかをめぐる激化する議論の真っ只中に置かれることになる。このようなレポートの詳細については、AI 倫理報道 をご覧ください。
3月に起こったこと
攻撃は2026年3月初旬に発生し、ベリングキャットが公開し、NPRとBBCが検証したビデオ分析では、米国のトマホーク巡航ミサイルがイランの都市ラメルドにある女子学校の隣を攻撃したことが示された。数日以内に、ニューヨーク・タイムズ紙は、米国の予備調査でこの攻撃は米国のミサイルによるものであることが判明したと報じ、イラン情報筋は死者数は数十名で、そのほとんどが子供であるとしていると報じた。
月曜日に発表されたブルームバーグの調査で説明された国防総省の新たな調査はさらに踏み込んでおり、標的化パイプラインまでの失敗を追跡し、AIへの過度の依存が攻撃の一因となったと結論付けていると伝えられている。 Yahooニュースは、イランの子供120人を殺害した空爆にAI標的システムが関係しているとこのレビューを要約した。いくつかの報道機関は問題のシステムが Palantir が提供したソフトウェアであると特定しているが、国防総省はベンダーの詳細を公式に確認していない。
キルチェーンの内部
ロサンゼルス・タイムズ紙は月曜日に発表した並行調査で、学校を破壊した米国の「キル・チェーン」と呼ばれるもの、つまりデータ収集、機械による標的指定、そしてミサイル発射に至る人間による承認の一連の流れを追跡した。この報道は、トマホークを発射する乗組員が目標をまったく視認できない可能性があるという、現代の精密戦における不快な現実を浮き彫りにしている。彼らは、上流で組み立てられたターゲット データ パッケージを実行します。そこでは、アルゴリズム ツールが、何がノミネートされるか、そしてサポートするアナリストがどの程度自信を持っているかをますます形作ります。
言い換えれば、このレビューの中心的な発見である過剰依存は、引き金を引くロボットに関するものではない。それは、人間が機械の出力を十分に信頼し、そのプロセスが必要とするように設計されているという懐疑論を無視することについてです。
解体された見落とし
失敗の背景は数か月前に報告されていました。ポリティコは3月、国防総省長官が文民保護センター・オブ・エクセレンスを含む「致死性」の目標に貢献しないオフィスを削減し、文民被害軽減チームの人員が約90％減少し、全体で20人未満に縮小したことを明らかにした。プロパブリカは、中央軍の民間人死傷者チームが10人から1人に減った、と報じた。
そうした背景から、このレビューの結果はソフトウェアのバグというよりはむしろシステム障害に近いものであった。人間のセーフティネットが完全に遮断された標的装置の内部でエラーが無視されなかったAIツールだ。
国防総省がすでに知っていたパターン
イラン攻撃は、米軍における単独のAI関連ニアミスではなかった。ギズモードとフューチャリズムによる別の報道では、AIシステムが中国の船舶に核兵器物質を幻覚させた後、軍が中国船舶に乗り込みそうになり、発砲する可能性があったという事件が記録されており、このミスは大国のエスカレーションを引き起こす可能性のあるミスだった。その場合、人間の介入によって災害は防げました。イランではそのような介入は行われなかった。
AI研究者や軍事倫理学者は、一か八かの意思決定に注入される機械の出力が自動化バイアス、つまり自信のあるシステムを過剰に信頼する人間の傾向を文書化して生み出すと長年警告してきた。国防総省自身のレビューは現在、この偏見が戦争で最も悲惨な民間人の犠牲者の1つに貢献したことを公式に認めたものとなっている。
次に何が起こるか
この見直しにより、政府が軍事用AI導入の加速を推進すると同時に、AIを活用したターゲティングにおける法定の人間参加要件を求めるワシントンでの圧力が強まる可能性が高い。また、このことは、現在正式な欠陥調査に製品が関与しているとされている防衛技術ベンダーのセールストークを複雑にするものであり、自律型兵器政策に関する公聴会で引用する具体的で文書化された事例研究を議会に与えることになる。
多くの疑問は未解決のままです。これまでに公開されたレビューの概要では、どのモデルのバージョンが使用されていたのか、失敗の原因が幻覚なのか、建物の誤分類なのか、それとも上流の入力データの破損なのかは明記されていない。これらの区別は、軍がAIツールをどのように規制すべきかについて非常に重要である。また、目標パッケージが完成する前に、システムの出力がアナリストによってレビューされたかどうかも明らかではありません。
世論はすでに懐疑的であり、今週発表されたロイター/イプソスの世論調査では、アメリカ人の73%が、AI企業は壊滅的な結果を防ぐために十分な努力をしていないと回答しており、兵器システムにおけるAIに対する懸念は一貫して消費者向けAIに対する懸念よりも高い。レビューの推奨事項がどうなるか、そして誰かが責任を負うかどうかは、その発見が慣行を変えるのか、それとも別のインシデント報告書として提出され忘れ去られるのかを示すことになる。
---
最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
