連邦航空局は金曜午後、米国内で出発するすべての商用便を停止し、全国的に地上停止命令を出し、旅行者が各地の空港で立ち往生した。このタイミングにより、インフラ障害が連邦航空局の最新の人工知能システムが何らかの役割を果たしたかどうかを巡る連邦捜査に変わった。
FAAは午後4時頃に地上停止を命じた。ニューヨーク・ポスト紙によると、ETは11月13日、「異常な状況」と「安全上の理由」を挙げた。早期警報では詳細がほとんど示されず、当局はこの混乱を、わずか 3 日前にすべての管制センターに拡張した AI 支援の航空交通システムである SMART に直ちに結び付けることはできませんでした。この記事やその他の 主要な AI 開発を継続的に報道するために、私たちは捜査の展開を追跡しています。
金曜日に何が起こったのか
混乱は広範囲に及んだ。米国のすべての空港で出発が停止されたが、これはFAAの航空任務通知（NOTAM）システムの不具合により全米の航空便が運航停止になった2023年1月以来の異例の措置だ。金曜日の夕方までに、主要メディアが引用した航空業界の集計では、約1万便が遅延、約4,700便が欠航となっており、航空各社は、乗務員が勤務時間制限に達し、航空機が定位置からずれたため、回復は週末までかかると警告した。
FAAは最終的に、停止の原因は通信の問題だと主張した。ロイター通信とワシントン・ポスト紙の報道では航空交通通信の障害が報告され、その後の報道ではパイロットと管制官が通信に使用する無線周波数システムに障害が発生したことが示された。地上停止勧告は当初、午後11時30分までとされていた。ただしETは、タイムスタンプは再開時刻を保証するものではないと当局者は警告した。同庁は金曜夜遅くに停止を解除したが、事件が政府最高レベルで疑問を引き起こす前には解除されなかった。
SMART システムは数日前に稼働しました
精査の理由はタイミングです。ワシントン・タイムズとニューヨーク・ポストによると、地上停止の3日前である11月10日、FAAは空域、ルート、軌道の戦略的管理の略であるSMARTを22の航空路交通管制センターすべてに拡張した。
SMART は、政府請負業者である Air Space Intelligence との 8 億 7,500 万ドルの 12 年間契約に基づいて開発されました。このシステムは、気象パターン、飛行経路、交通の流れ、管制官の人員配置メトリクスなど、約 200 のライブ データ ストリームを単一のプラットフォームに統合し、航空交通管理を事後対応モデルから予測モデルに移行するように設計されています。これはルーティングとスケジュールに関する推奨事項を生成し、ワシントンの FAA 専門家がそれをバージニア州ウォレントンの航空交通管制システム指令センターに転送する前に検討します。その後、各地域施設の指導者がそれぞれの提案を受け入れるか拒否するかを決定します。
重要なのは、FAA が SMART が自律的なレイヤーではなく、助言レイヤーであることを明確にしていることです。同庁は、このシステムは人間の管制官に代わることはできず、航空機の制御を引き継ぐこともできないと述べた。しかし、このプラットフォームは、膨大な量の実際の運用データの交差点に位置しており、その交差点こそが、まさに調査員が現在注目している場所です。
捜査官は AI を排除しない
金曜夜、記者がマークウェイン・マリン国土安全保障長官に、FAAの新しいAIツールが通信障害の一因となった可能性があるかと質問したところ、彼の答えは慎重に非公式なものだった。
「我々はそれを検討しているところです」とマリン氏はSMARTシステムについて直接言及した。記者が「AI」という言葉を使った際、マリン氏は、政府が9月の大統領令に基づいてこのテクノロジーを正式に「スーパーインテリジェンス（SI）」と呼んでいることに言及し、「現時点では何も除外することはできない」と付け加えた。
ABCニュースによると、マリン氏は同時に、記者団に対し「単なる通信障害だ」と「極悪非道な攻撃」の兆候はまだないと述べ、原因についての不安を静めようとした。 GeekWire によると、同氏はまた、地上停止と、前日に始まった別個の Microsoft 365 の停止との間に明らかな関連性が見られなかったと述べています。
SMART の背後にある企業は、自社の製品を混乱から遠ざけるために迅速に行動しました。 「現在の地上停止は、SMARTシステム、ASIの製品、またはFAAおよびATCとの統合に基づいたものではなく、その結果ではない」とAir Space IntelligenceはXに投稿した声明の中で述べた。
誰もがそのタイミングを偶然だと考えているわけではありません。元運輸省監察官メアリー・スキアーボ氏はCNNで「関連があるかどうかは分からない」と語った。 「しかし、彼らが今日その動きを始めようとしていたのはあまりにも偶然です。そして今、私たちはシステムに問題を抱えています。」
管理者が数週間前に懸念を報告
航空関係者がすでに書面でSMARTについて警告を発していたため、金曜日の出来事はさらに重要視された。 10月には20人以上の議員がショーン・ダフィー運輸長官とブライアン・ベッドフォードFAA長官に書簡を送り、配備に関する航空管制官の懸念を伝えた。ラテン・タイムズ紙が報じたこの書簡には、「国の最前線の航空安全従事者は明らかにSMARTの開発にほとんど、あるいはまったく関与しておらず、現在の配備プロセス中に限られた訓練と情報しか受けていない」と述べられていた。
管制官らは特に、SMARTが「経験豊富な航空管制官による意思決定を妨げる」可能性があると警告した。あるいは、より憂慮すべきシナリオでは、安全性が重要な環境において、大量のライブデータを処理するAIシステムが、自信に満ちた誤った出力を幻覚で示す可能性があると警告した。ドン・ベイヤー下院議員を含む議員らは混乱の数週間前にFAA AIの安全上のリスクを指摘しており、金曜日には両党の議員らが何が問題だったのかについての回答を要求し始めた。
嫌な午後を越えてこれが重要な理由
捜査当局が最終的にどのような結論を下すにせよ、この事件は安全性が重要なインフラへの AI の組み込みを広範に推進するためのストレステストである。議会は昨年、国の航空交通管制システムを近代化するために125億ドルを承認し、老朽化した銅線を光ファイバーに置き換え、古い無線システムを段階的に廃止し、ネットワーク全体に新しい計算プラットフォームを導入した。ダフィー運輸長官は、この仕事を完了するにはさらに300億ドルが必要になると公に述べた。 SMART は、その見直しの目に見える部分の 1 つです。
2023 年の NOTAM 障害は、バックアップ システムに伝播した単一の破損したデータベース ファイルが原因であることが判明し、航空インフラの障害は設計者が計画していなかったギャップを見つける傾向があることを実証しました。捜査の方向性についてのラテン・タイムズの分析によると、管制官の人員配置や施設通信を含む200のライブ・データ・ストリームを活用した最新の助言システムは、ライブの全国空域の上に重ねられており、まさに捜査官がこれからモデル化する必要がある種類の相互作用である。
今のところ、正式な原因は不明のままです。わかっていることは、この障害には、ルーティングおよびスケジューリング アドバイザーとしての SMART が直接触れていない通信インフラストラクチャが関係していたということです。この詳細が確認されれば、原点としての AI システムから離れたところにあることになります。しかし、このエピソードはすでに、米国が何千もの欠航便で悪い日のコストを測定するシステムにAIをどのように導入しているかを示すケーススタディとなっており、「何も除外することはできない」というのが当局者が出せる最も正直な答えだ。
---
AI の先を行く最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
