La Federal Aviation Administration ha fermato tutti i voli commerciali in partenza negli Stati Uniti venerdì pomeriggio, emettendo uno stop a terra a livello nazionale che ha bloccato i viaggiatori negli aeroporti da una costa all'altra - e la tempistica ha trasformato un guasto infrastrutturale in un'indagine federale per stabilire se il nuovissimo sistema di intelligenza artificiale dell'agenzia abbia avuto un ruolo.

La FAA ha ordinato l'arresto a terra intorno alle 16:00. ET il 13 novembre, citando "circostanze straordinarie" e "motivi di sicurezza", secondo il New York Post. I primi allarmi offrivano pochi dettagli e l’agenzia non ha immediatamente collegato l’interruzione a SMART, il sistema di traffico aereo supportato dall’intelligenza artificiale che aveva esteso a tutti i suoi centri di controllo solo tre giorni prima. Per continuare la copertura di questa storia e di altri importanti sviluppi dell'intelligenza artificiale, stiamo monitorando lo svolgimento delle indagini.

Cosa è successo venerdì

Il disturbo è stato radicale. Le partenze sono state interrotte in tutti gli aeroporti degli Stati Uniti, un passo straordinario che il Paese non vedeva dal gennaio 2023, quando un malfunzionamento nel sistema Notice to Air Missions (NOTAM) della FAA ha bloccato i voli a livello nazionale. Venerdì sera, i conteggi del settore aeronautico citati dai principali organi di informazione hanno mostrato circa 10.000 voli ritardati e circa 4.700 cancellati, e le compagnie aeree hanno avvertito che la ripresa si sarebbe protratta per tutto il fine settimana quando gli equipaggi avrebbero raggiunto i limiti delle ore di servizio e gli aerei sarebbero rimasti fuori posizione.

La FAA alla fine ha attribuito l'interruzione a un problema di telecomunicazioni. I rapporti di Reuters e The Washington Post hanno descritto un'interruzione delle comunicazioni del traffico aereo, e i rapporti successivi hanno indicato che il guasto ha coinvolto i sistemi di radiofrequenza che piloti e controllori utilizzano per comunicare. L'avviso di fermata a terra è stato inizialmente elencato fino alle 23:30. ET, sebbene i funzionari abbiano avvertito che il timestamp non era un orario di ripresa garantito. L'agenzia ha revocato il blocco più tardi venerdì sera, ma non prima che l'incidente avesse suscitato interrogativi ai più alti livelli di governo.

Il sistema SMART è entrato in funzione giorni prima

Il motivo del controllo è il tempismo. Il 10 novembre – tre giorni prima dello stop a terra – la FAA ha esteso SMART, abbreviazione di Strategic Management of Airspace, Routes and Trajectories, a tutti i 22 centri di controllo del traffico delle rotte aeree, secondo il Washington Times e il New York Post.

SMART è stato sviluppato nell'ambito di un contratto di 12 anni da 875 milioni di dollari assegnato ad Air Space Intelligence, un appaltatore governativo. Il sistema unisce circa 200 flussi di dati in tempo reale – modelli meteorologici, traiettorie di volo, flusso di traffico, parametri relativi al personale dei controllori e altro ancora – in un’unica piattaforma progettata per spostare la gestione del traffico aereo da un modello reattivo a uno predittivo. Genera raccomandazioni di routing e programmazione che gli specialisti della FAA a Washington esaminano prima di inoltrarle al Centro di comando del sistema di controllo del traffico aereo a Warrenton, in Virginia; la leadership di ciascuna struttura locale decide quindi se accettare o rifiutare ciascun suggerimento.

Fondamentalmente, la FAA è stata esplicita sul fatto che SMART è un livello consultivo, non autonomo. L'agenzia ha affermato che il sistema non può sostituire i controllori umani e non può assumere il controllo di un aereo. Ma la piattaforma si trova all’intersezione di un enorme volume di dati operativi in ​​tempo reale – e quell’intersezione è esattamente dove gli investigatori stanno ora guardando.

Gli investigatori non escluderanno l'IA

Quando venerdì sera un giornalista ha chiesto al segretario per la sicurezza nazionale Markwayne Mullin se il nuovo strumento di intelligenza artificiale della FAA avrebbe potuto contribuire al fallimento delle comunicazioni, la sua risposta è stata accuratamente vacua.

"Stiamo esaminando questo aspetto", ha detto Mullin, riferendosi direttamente al sistema SMART. Quando il giornalista ha utilizzato il termine “AI”, Mullin ha osservato che l’amministrazione ora chiama ufficialmente la tecnologia “Super Intelligence” o SI, in base a un ordine esecutivo di settembre – prima di aggiungere: “Non si può escludere nulla a questo punto”.

Mullin ha cercato contemporaneamente di calmare i timori sulla causa, dicendo ai giornalisti "è solo un'interruzione delle telecomunicazioni" e che non c'erano ancora indicazioni di un "attacco nefasto", secondo ABC News. Inoltre, secondo GeekWire, non ha visto alcuna connessione apparente tra l'arresto a terra e l'interruzione separata di Microsoft 365 iniziata il giorno prima.

L'azienda dietro SMART si è mossa rapidamente per allontanare il suo prodotto dall'interruzione. "L'attuale arresto a terra non è basato né è il risultato del sistema SMART, di alcun prodotto dell'ASI o della nostra integrazione con FAA e ATC", ha affermato Air Space Intelligence in una dichiarazione pubblicata su X.

Non tutti considerano i tempi come una coincidenza. "Non so se sono collegati", ha detto alla CNN l'ex ispettore generale del Dipartimento dei trasporti Mary Schiavo. "Ma è semplicemente una coincidenza che stiano cercando di iniziare questo movimento oggi - e ora abbiamo problemi con il sistema."

Preoccupazioni segnalate dai controllori settimane fa

Gli eventi di venerdì hanno avuto un peso aggiuntivo perché il personale dell'aviazione aveva già lanciato per iscritto allarmi su SMART. Nel mese di ottobre, più di due dozzine di legislatori hanno scritto al segretario ai trasporti Sean Duffy e all'amministratore della FAA Bryan Bedford, esprimendo le preoccupazioni dei controllori del traffico aereo riguardo allo spiegamento. Quella lettera, come riportato dal Latin Times, affermava che "la forza lavoro in prima linea della sicurezza aerea nazionale apparentemente ha avuto poco o nessun contributo allo sviluppo di SMART e ha ricevuto formazione e informazioni limitate durante l'attuale processo di implementazione".

I controllori hanno specificamente avvertito che SMART potrebbe "interferire con il processo decisionale di controllori del traffico aereo esperti" o, in uno scenario più allarmante, che un sistema di intelligenza artificiale che elabora enormi volumi di dati in tempo reale potrebbe avere allucinazioni con risultati sicuri ma errati in un ambiente critico per la sicurezza. I legislatori, incluso il deputato Don Beyer, avevano segnalato i rischi per la sicurezza dell’IA della FAA settimane prima dell’interruzione, e venerdì i membri del Congresso di entrambi i partiti hanno iniziato a chiedere risposte su cosa è andato storto.

Perché questo è importante al di là di un brutto pomeriggio

Qualunque sia la conclusione finale degli investigatori, l’incidente è uno stress test per la spinta più ampia volta a incorporare l’intelligenza artificiale nelle infrastrutture critiche per la sicurezza. Lo scorso anno il Congresso ha approvato 12,5 miliardi di dollari per modernizzare il sistema di controllo del traffico aereo della nazione, sostituendo i vecchi cavi in ​​rame con quelli in fibra ottica, eliminando gradualmente i vecchi sistemi radio e installando nuove piattaforme computazionali sulla rete. Il ministro dei trasporti Duffy ha dichiarato pubblicamente che saranno necessari altri 30 miliardi di dollari per completare il lavoro. SMART è una parte visibile di questa revisione.

L’interruzione del NOTAM del 2023, ricondotta a un singolo file di database danneggiato che si è propagato nel sistema di backup, ha dimostrato che i guasti nelle infrastrutture aeronautiche tendono a trovare le lacune che gli architetti non avevano pianificato. Un nuovissimo sistema di consulenza basato su 200 flussi di dati in tempo reale – compreso il personale dei controllori e le comunicazioni della struttura – sovrapposto a uno spazio aereo nazionale in tempo reale è esattamente il tipo di interazione che gli investigatori dovranno ora modellare, secondo l’analisi del Latin Times sulla direzione dell’indagine.

Per ora la causa ufficiale resta sconosciuta. Ciò che è noto è che il guasto ha coinvolto l’infrastruttura di comunicazione che SMART, in qualità di consulente di routing e pianificazione, non tocca direttamente – un dettaglio che, se confermato, indicherebbe il punto di origine lontano dal sistema AI. Ma l’episodio è già diventato un caso di studio su come gli Stati Uniti implementano l’intelligenza artificiale in sistemi in cui il costo di una brutta giornata è misurato in migliaia di voli cancellati e dove “non si può escludere nulla” è la risposta più onesta che qualsiasi funzionario possa dare.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →