Funzionari federali hanno identificato la probabile causa dell’arresto a terra a livello nazionale di venerdì – e non si trattava di intelligenza artificiale. Il segretario ai trasporti Sean Duffy ha affermato che l'interruzione che ha interrotto i voli in partenza attraverso gli Stati Uniti è derivata da un problema di apparecchiature durante l'aggiornamento da parte di un appaltatore della rete di telecomunicazioni della Federal Aviation Administration, un sistema gestito dall'appaltatore L3Harris, secondo CNBC. La scoperta cancella formalmente SMART, il nuovo strumento di pianificazione del traffico supportato dall'intelligenza artificiale della FAA, che era stato sospettato a causa della sua tempistica.

Il chiarimento è importante perché l’episodio è diventato un punto critico nel dibattito sull’intelligenza artificiale nelle infrastrutture critiche. Per una copertura continua delle politiche sull'intelligenza artificiale e delle implementazioni nel settore pubblico, AI Buzz Wire tiene traccia di queste storie man mano che si sviluppano.

Chiusura dello spazio aereo statunitense per quattro ore

La FAA ha emesso lo stop a terra a livello nazionale alle 15:54. Eastern Time il 13 novembre, citando un'interruzione delle telecomunicazioni che ha colpito i centri di controllo del traffico aereo che gestiscono i voli che attraversano il paese, ha riferito Al Jazeera. Le partenze ripresero quando Duffy annunciò che lo spazio aereo era stato riaperto alle 20:15. ET: più di quattro ore dopo l'emissione dell'ordine.

L’interruzione è stata di portata storica. Secondo Al Jazeera, ha segnato il più lungo arresto a livello nazionale in 25 anni e solo il secondo arresto completo delle partenze degli Stati Uniti dagli attacchi dell’11 settembre 2001. La società di analisi aeronautica Cirium ha stimato che circa 11.000 voli con più di 1,5 milioni di passeggeri sarebbero dovuti partire dagli aeroporti statunitensi dopo le 16:00. ET venerdì. Entro le 19:05 ET, almeno 827 voli sono stati dirottati, di cui 670 tornati agli aeroporti di partenza e 157 atterrati altrove, secondo i dati Cirium.

Il servizio di tracciamento dei voli FlightRadar24 ha contato più di 4.700 cancellazioni e 10.000 ritardi venerdì, con centinaia di cancellazioni in più fino a sabato. Gli analisti dell’aviazione hanno avvertito che le compagnie aeree potrebbero aver bisogno di giorni per ripristinare completamente i loro programmi, e i ritardi sono continuati nel fine settimana poiché i vettori hanno riposizionato aerei ed equipaggi.

Duffy si è rivolto direttamente ai passeggeri rimasti a terra sabato, dicendo loro che "è sicuro volare" avvertendo che "continueranno a vedere alcuni ritardi e cancellazioni man mano che i vettori riprogrammano i voli e riposizionano gli aerei", secondo i suoi post sui social media citati da Al Jazeera.

Come lo strumento AI è stato incolpato e scagionato

I sospetti caddero quasi immediatamente su SMART e le ragioni non erano irragionevoli. La FAA aveva ampliato lo strumento di pianificazione del traffico supportato dall'intelligenza artificiale a tutti i 22 centri di controllo del traffico aereo in rotta pochi giorni prima, un lancio coperto da Ars Technica e AeroTime il 10 e 11 novembre. Un atterraggio fallito a livello nazionale tre giorni dopo l'entrata in funzione di un nuovo sistema sembrava, a molti osservatori, qualcosa di più di una semplice coincidenza.

I funzionari hanno reagito nel giro di poche ore. Venerdì sera, Duffy ha affermato che il nuovo strumento di traffico aereo AI dell'agenzia non ha avuto alcun ruolo nell'interruzione, ha riferito il Washington Times. GeekWire ha riferito che i funzionari hanno incolpato l'invecchiamento delle apparecchiature di telecomunicazione e non hanno visto alcun collegamento con Microsoft o AI. Anche la società dietro SMART ha negato qualsiasi collegamento con il fermo a terra e Duffy ha confermato che lo strumento non era coinvolto, ha riferito sabato The Hill. La Casa Bianca ha affermato che non vi è alcuna indicazione di un "atto nefasto", ha riferito CBS News.

Sabato il quadro si era ulteriormente accentuato. NPR ha riferito che la FAA ha attribuito il guasto a un "problema di attrezzatura" durante un aggiornamento della rete di telecomunicazioni, e CNBC ha riportato il resoconto di Duffy secondo cui l'arresto a terra ha seguito un aggiornamento dell'appaltatore al sistema di telecomunicazioni L3Harris. In altre parole: non il nuovo software di intelligenza artificiale, ma le vecchie comunicazioni che stanno al di sotto di esso, fallendo mentre veniva modernizzato.

Vecchie infrastrutture, nuovo controllo

L'episodio ha focalizzato nuovamente l'attenzione sullo stato della tecnologia alla base della FAA. Il sistema che ha fallito gestisce le comunicazioni tra i centri di controllo del traffico aereo, la spina dorsale che consente ai controllori di gestire i voli in tutto il paese. I funzionari hanno descritto l'attrezzatura come vecchia e sovraccarica, secondo ABC News, e il guasto si è verificato durante un aggiornamento destinato a sostituirla.

Duffy sta ora cercando miliardi di dollari in finanziamenti aggiuntivi per revisionare il sistema di controllo del traffico aereo, ha riferito Politico, sostenendo che l’interruzione dimostra il costo del rinvio della modernizzazione. Resta da vedere se il Congresso si muoverà rapidamente in merito a tale richiesta, ma il calcolo politico è cambiato: un blocco nazionale di quattro ore è una dimostrazione tangibile di ciò che significa un fallimento ereditario.

Cosa significa questo episodio per l'intelligenza artificiale nei sistemi critici

Per il settore dell’intelligenza artificiale, la rapida eliminazione di SMART è la parte più importante della storia. Le nuove implementazioni dell’intelligenza artificiale in ambienti ad alto rischio devono ora affrontare un ambiente di attribuzione spietato: quando i sistemi falliscono, tutto ciò che è stato aggiunto di recente verrà prima esaminato. Quella dinamica taglia in entrambe le direzioni. Ciò crea pressione per test rigorosi e implementazioni graduali – che la FAA ha seguito, espandendo gradualmente SMART in tutti i suoi centri – ma significa anche che gli strumenti di intelligenza artificiale possono essere pubblicamente accusati di fallimenti che non hanno causato, rallentandone potenzialmente l’adozione indipendentemente dalle prove.

Il caso della FAA si è concluso con l’esonero dello strumento di intelligenza artificiale e la causa principale individuata in un’infrastruttura di telecomunicazioni vecchia di decenni. Questo risultato supporta la tesi secondo cui modernizzare i sistemi critici non significa tanto sostituire l’intelligenza artificiale quanto piuttosto sostituire le fragili fondamenta sottostanti. Ma illustra anche il controllo che ogni implementazione dell’intelligenza artificiale dovrebbe aspettarsi in infrastrutture critiche per la sicurezza – e l’importanza che i funzionari siano in grado di dire, rapidamente e con prove, esattamente cosa ha fallito.

Stai al passo con l'intelligenza artificiale

Dalle implementazioni federali alla ricerca di frontiera, la storia dell’intelligenza artificiale si muove rapidamente. Stai un passo avanti rispetto all'intelligenza artificiale con la copertura di AI Buzz Wire sugli sviluppi che contano.

Leggi altre notizie sull'AI →