Federální úřad pro letectví v pátek odpoledne zastavil každý odlétající komerční let ve Spojených státech a vydal celostátní pozemní zastávku, která uvízla cestující na letištích od pobřeží k pobřeží – a načasování proměnilo selhání infrastruktury ve federální vyšetřování, zda sehrál roli zcela nový systém umělé inteligence agentury.

FAA nařídil pozemní zastavení přibližně ve 16:00. ET dne 13. listopadu s odvoláním na „mimořádné okolnosti“ a „bezpečnostní důvody“, uvedl New York Post. Včasné výstrahy nabízely jen málo podrobností a agentura okamžitě nepropojila přerušení se systémem SMART, systémem letového provozu podporovaným umělou inteligencí, který rozšířila do všech svých řídicích středisek jen před třemi dny. Abychom mohli pokračovat v pokrytí tohoto příběhu a dalších hlavních vývojových trendů AI, sledujeme vyšetřování, jak se vyvíjí.

Co se stalo v pátek

Rušení bylo rozsáhlé. Odlety byly zastaveny na každém americkém letišti, což je mimořádný krok, který země nezaznamenala od ledna 2023, kdy závada v systému Notice to Air Missions (NOTAM) FAA zablokovala celostátní lety. Do pátečního večera statistiky leteckého průmyslu uvedené v hlavních odbytištích ukázaly, že zhruba 10 000 letů bylo zpožděno a přibližně 4 700 bylo zrušeno, a letecké společnosti varovaly, že zotavení se protáhne přes víkend, protože posádky narazí na limity pracovní doby a letadla seděla z pozice.

FAA nakonec obvinila zastávku z telekomunikačního problému. Zprávy agentur Reuters a The Washington Post popisovaly výpadek komunikace v leteckém provozu a následné zprávy naznačovaly, že selhání zahrnovalo radiofrekvenční systémy, které piloti a řídící používají ke komunikaci. Upozornění na zastavení pozemní dopravy bylo původně uvedeno do 23:30. ET, ačkoli úředníci varovali, že časové razítko není zaručeným časem obnovení. Agentura zrušila zastavení později v pátek večer, ale ne dříve, než incident vyvolal otázky na nejvyšších úrovních vlády.

SMART systém začal fungovat o několik dní dříve

Důvodem kontroly je načasování. 10. listopadu — tři dny před pozemní zastávkou — FAA rozšířila SMART, zkratku pro Strategické řízení vzdušného prostoru, tras a trajektorií, na všech 22 svých středisek řízení letového provozu, podle Washington Times a New York Post.

SMART byl vyvinut na základě 875 milionů dolarů, 12letého kontraktu uděleného společnosti Air Space Intelligence, vládnímu dodavateli. Systém spojuje zhruba 200 živých datových toků – vzory počasí, letové trasy, tok provozu, metriky obsazení řídících a další – do jediné platformy navržené k posunu řízení letového provozu z reaktivního modelu na prediktivní. Generuje doporučení pro směrování a plánování, která si specialisté FAA ve Washingtonu přezkoumají, než je předá Velitelskému středisku systému řízení letového provozu ve Warrentonu ve Virginii; vedení v každém místním zařízení poté rozhodne, zda každý návrh přijme nebo odmítne.

Rozhodující je, že FAA jasně řekl, že SMART je poradní vrstva, nikoli autonomní. Agentura uvedla, že systém nemůže nahradit lidské ovladače a nemůže převzít kontrolu nad letadlem. Platforma však leží na průsečíku obrovského objemu živých provozních dat – a tento průsečík je přesně to, kam se nyní vyšetřovatelé dívají.

Vyšetřovatelé AI nevyloučí

Když se reportér v pátek večer zeptal ministra vnitřní bezpečnosti Markwayna Mullina, zda nový nástroj umělé inteligence FAA mohl přispět k selhání komunikace, jeho odpověď byla pečlivě nezávazná.

"Díváme se na to," řekl Mullin s odkazem přímo na systém SMART. Když reportér použil termín "AI", Mullin poznamenal, že administrativa nyní oficiálně nazývá technologii "Super Intelligence" nebo SI na základě zářijového výkonného příkazu - předtím, než dodal: "V tuto chvíli nemůžete nic vyloučit."

Mullin se současně snažil uklidnit obavy z příčiny a řekl reportérům „je to jen telekomunikační výpadek“ a že podle ABC News zatím nic nenasvědčuje „ohavnému útoku“. Podle GeekWire také neviděl žádnou zjevnou souvislost mezi zastavením a samostatným výpadkem Microsoft 365, který začal o den dříve.

Společnost stojící za SMART se rychle snažila distancovat svůj produkt od přerušení. "Současná pozemní zastávka není založena na systému SMART ani není výsledkem systému SMART, žádného produktu ASI nebo naší integrace s FAA a ATC," uvedla Air Space Intelligence v prohlášení zaslaném X.

Ne každý bere načasování jako náhodu. "Nevím, jestli spolu souvisí," řekla CNN bývalá generální inspektorka ministerstva dopravy Mary Schiavoová. "Ale je to příliš velká náhoda, že se dnes pokoušeli začít s tím pohybem - a teď máme problémy se systémem."

Kontroloři označili obavy před týdny

Páteční události měly zvláštní váhu, protože pracovníci v letectví již písemně upozornili na SMART. V říjnu více než dvě desítky zákonodárců napsaly ministru dopravy Seanu Duffymu a správci FAA Bryanu Bedfordovi a vyjádřily obavy letových dispečerů ohledně nasazení. V tomto dopise, jak uvádí Latin Times, se uvádí, že „národní pracovní síla v oblasti bezpečnosti letectví zjevně měla malý nebo žádný vklad do vývoje SMART a během současného procesu nasazení obdržela omezené školení a informace“.

Kontroloři konkrétně varovali, že SMART by mohl „zasahovat do rozhodování zkušených řídících letového provozu“ – nebo ve více alarmujícím scénáři, že systém AI zpracovávající obrovské objemy živých dat by mohl halucinovat sebevědomý, ale nesprávný výstup v prostředí kritickém z hlediska bezpečnosti. Zákonodárci včetně poslance Dona Beyera označili bezpečnostní rizika AI FAA týdny před přerušením a v pátek členové Kongresu z obou stran začali požadovat odpovědi na to, co se stalo.

Proč na tom záleží i po jednom špatném odpoledni

Ať už vyšetřovatelé dospějí k jakémukoli závěru, incident je zátěžovým testem pro širší tlak na začlenění umělé inteligence do infrastruktury kritické z hlediska bezpečnosti. Kongres loni schválil 12,5 miliardy dolarů na modernizaci národního systému řízení letového provozu – výměnu stárnoucích měděných kabelů za vláknová optika, postupné vyřazování starých rádiových systémů a instalaci nových výpočetních platforem v celé síti. Ministr dopravy Duffy veřejně prohlásil, že k dokončení práce bude zapotřebí dalších 30 miliard dolarů. SMART je jeden viditelný kus této generální opravy.

Výpadek NOTAM v roce 2023, vysledovaný k jedinému poškozenému databázovému souboru, který se rozšířil do záložního systému, ukázal, že selhání v letecké infrastruktuře mají tendenci najít mezery, které architekti neplánovali. Zcela nový poradenský systém využívající 200 živých datových toků – včetně obsazení řídících pracovníků a komunikace zařízení – navrstvený na živém národním vzdušném prostoru je přesně ten druh interakce, který nyní vyšetřovatelé budou muset modelovat, podle analýzy směru vyšetřování provedené Latin Times.

Oficiální příčina zatím zůstává neznámá. Je známo, že selhání zahrnovalo komunikační infrastrukturu, které se SMART jako poradce pro směrování a plánování přímo nedotýká – což je detail, který, pokud by byl potvrzen, by ukazoval od systému AI jako výchozího bodu. Ale tato epizoda se již stala případovou studií toho, jak Spojené státy nasazují AI do systémů, kde se náklady na špatný den měří v tisících zrušených letů a kde „nelze vyloučit nic“ je ta nejupřímnější odpověď, kterou může úředník dát.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →