ワシントン・サン紙の報道が、非公開の会話に詳しい3人の関係筋の話として報じたところによると、ウォール街幹部と国家安全保障局当局者らは、今週の米国の一連のテクノロジー停止はサイバー攻撃によるものではなく、人工知能モデルが発見した脆弱性にパッチを当てるための緊急努力によって引き起こされたと議会議員に語ったという。
この主張が実証されれば、AIの二次的影響が重要なインフラを不安定化させるこれまでで最も明白な事例の1つとなるだろう。モデルが何かを攻撃したからではなく、モデルがあまりにも多くの本当の弱点を発見したため、人間のオペレーターが急いでそれらをすべて一度に修正したからだ。 この件の詳細は、人工知能の最新情報をご覧ください。
連鎖的な障害が続いた 1 週間
障害は 11 月 12 日に累積し始め、週を通して加速しました。 11月13日、米国航空当局は通信技術の障害を理由に全国的な地上停止命令を出した。ストレーツ・タイムズ紙によれば、これは2001年9月11日の攻撃以来、最長の全国的な航空便停止となった。 Microsoftの電子メールサービス「Outlook」は障害を受け、多くの米国企業との通信が不能になり、iCloud、App Store、Apple PayなどのAppleのサービスも停止した。
11月16日、混乱は銀行システムにも及び、JPモルガン・チェースなどの金融機関の顧客は口座にアクセスできなくなった。その銀行は、サービスの問題はソフトウェアのバグによるものだと考えました。 11月17日、NSA自体は、定期メンテナンスと称する期間中にネットワークに「一時的な機能低下」が発生したと発表したが、一方で「ミッションクリティカルな機能」は完全に動作し続けていると主張した。
当局は一貫して敵対的なサイバー攻撃の可能性を否定してきた。国家安全保障担当大統領補佐官を兼務するマルコ・ルビオ国務長官は、事件が「不安をもたらす」ものであることを認めたものの、ドナルド・トランプ大統領がASEAN経済会議に出席中だったマニラで記者団に対し、「われわれは組織的な攻撃を受けていない。これらの事件が関連していると信じる証拠も、根拠もまったくない」と述べた。
AI パッチの説明
舞台裏では、国会議事堂では別の説明が飛び交っている。ワシントン・サンの報道によると、政府および銀行関係者は議員に対し、今回の混乱はAIモデルが特定したサイバー防御の欠陥を修復しようとする試みから生じたもので、その結果として大量の修正が影響を受けたシステムを一時的に圧倒したと述べた。
「これらのモデルは大規模な脆弱性を特定しており、直ちにパッチを適用する緊急性が高まっている」とこの問題について説明を受けたある議会関係者は同メディアに語った。 「彼らは一度に多くのパッチを適用しようとしています。システムの設計目的を超えています。」
マークウェイン・マリン国土安全保障長官はCNBCのインタビューで関連する診断を提示し、組織は「非常に古いコンピュータシステムの上に新しいテクノロジーを推し進めており、それがシステムを圧倒しているように見える。...新しいテクノロジーが展開されるにつれて、このようなことがさらに起こるだろう。」と述べた。
このアカウントは、AI 支援コード分析が成熟するにつれてセキュリティ チームが警告してきた動的な状況と一致しています。つまり、悪用可能な欠陥がないか膨大なコードベースをスキャンできるモデルは、変更管理プロセスが安全に吸収できるよりも早く発見結果を生成します。パッチ適用自体は危険な操作であり、老朽化したインフラストラクチャに対してパッチ適用を急ぎすぎると、修復される脆弱性と同様に破壊的な影響を与える可能性があります。
議員らは答えを求める
政治的反応は、特に超党派的な焦りを見せている。ミズーリ州共和党のジョシュ・ホーリー上院議員は記者団に対し、「もしこれがすべて偶然だとしたら、世界史上最大の偶然のようなものだ」と語った一方、軍事委員会の民主党有力者ジャック・リード上院議員もこのパターンの詳しい説明を求める声に加わった。
トランプ氏は公の場でこのエピソードを矮小化した。大統領はマニラで記者団に対し、「大きくて権力があり、お金をすべて持っているときのようなものだ。そのようなことはよくあることだ。大丈夫だ」と語った。ホワイトハウスは「危機はない」と述べた。
障害報道の中で引用されたアナリストらは、2つの複合要因を指摘している。1つは近年のテクノロジー運用全体にわたる大幅な人員削減、もう1つはシステム保守へのAIツールの統合の加速で、これにより重要なインフラストラクチャーの回復力が低下し、障害発生時に明らかに脆弱になった可能性がある。
AI 業界にとっての意味
AI セクターにとって、今週は AI ツールが生み出す運用テンポについて警告を発する週となります。防御者がマシンの速度で脆弱性を発見できる同じモデルの機能により、従来のシステムでは決して満たすように設計されていなかった修復スケジュールにも防御者をコミットできます。現在、複数のベンダーが AI による継続的なセキュリティ スキャンを販売しています。これはまさに、人間が見逃す欠陥を発見するためです。この機能停止は、ボトルネックが発見から展開に移ったことを示唆しています。
議会がインフラ監視に再び注意を向ける際には、議員らは停電の波についての正式な説明を求めると予想されており、政府機関と銀行の双方は、AI主導のメンテナンスがどのように計画され、テストされ、抑制されるのかについて疑問に直面する可能性が高い。このエピソードは、重要なシステムに対する AI 支援による変更を段階的に行い、他の高リスクの運用上の変更と同様に速度制限を行うべきかどうかという新たな規制上の議論の材料になる可能性もあります。
今のところ、飛行機は飛んでおり、銀行はアプリに応答しており、NSAはミッションクリティカルなシステムは問題ないとしている。議会が吸収するよう求められている不快な教訓は、欠陥を発見する機械が欠陥を修正する機関よりも先に実行されている可能性があるということである。
---
AIの最新情報をお届けAIの最新ニュース、分析、ブレイクスルーを一箇所で。
AIニュースをもっと読む →

