Dirigenti di Wall Street e funzionari della National Security Agency hanno detto ai membri del Congresso che la cascata di interruzioni tecnologiche statunitensi della settimana è stata causata non da attacchi informatici, ma da sforzi di emergenza per correggere le vulnerabilità che i modelli di intelligenza artificiale avevano scoperto, secondo un rapporto del Washington Sun che cita tre fonti che hanno familiarità con le conversazioni private.
L’affermazione, se fondata, segnerebbe uno dei casi più evidenti finora di effetti di secondo ordine dell’intelligenza artificiale che destabilizzano infrastrutture critiche – non perché i modelli abbiano attaccato qualcosa, ma perché hanno trovato così tante debolezze reali che gli operatori umani si sono affrettati a risolverle tutte in una volta. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
Una settimana di fallimenti a cascata
Le interruzioni hanno iniziato ad accumularsi il 12 novembre e hanno subito un'accelerazione nel corso della settimana. Il 13 novembre, le autorità aeronautiche statunitensi hanno emesso uno stop a terra a livello nazionale a causa di un guasto alla tecnologia delle comunicazioni, quello che lo Straits Times ha descritto come il più lungo blocco dei voli a livello nazionale dagli attacchi dell’11 settembre 2001. Il servizio di posta elettronica di Microsoft Outlook ha subito interruzioni che hanno interrotto la corrispondenza per molte aziende statunitensi e anche i servizi Apple, tra cui iCloud, App Store e Apple Pay, sono diminuiti.
Il 16 novembre, le turbolenze hanno raggiunto il sistema bancario, con i clienti di istituzioni tra cui JPMorgan Chase incapaci di accedere ai conti; la banca ha attribuito i problemi del servizio a bug del software. Il 17 novembre, la stessa NSA ha annunciato che la sua rete aveva subito un “degrado temporaneo” durante quella che ha definito manutenzione ordinaria programmata, pur insistendo sul fatto che “le capacità mission-critical” sono rimaste pienamente operative.
I funzionari hanno costantemente escluso un attacco informatico ostile. Il segretario di Stato Marco Rubio, che funge anche da consigliere per la sicurezza nazionale, ha riconosciuto che gli incidenti sono stati "inquietanti", ma ha detto ai giornalisti a Manila, dove il presidente Donald Trump era presente alla conferenza economica dell'ASEAN, "Non siamo sotto attacco sistemico. Non abbiamo prove o alcun motivo per credere che qualcuno di questi sia collegato".
La spiegazione dell'applicazione delle patch AI
Dietro le quinte, a Capitol Hill circola una spiegazione diversa. Secondo il rapporto del Washington Sun, funzionari governativi e bancari hanno detto ai legislatori che le interruzioni derivavano dai tentativi di colmare le lacune nelle difese informatiche identificate dai modelli di intelligenza artificiale e che la conseguente ondata di soluzioni ha temporaneamente sopraffatto i sistemi interessati.
"Questi modelli stanno identificando enormi vulnerabilità e ciò aumenta l'urgenza di applicare immediatamente le patch", ha detto al quotidiano un funzionario del Congresso informato sulla questione. "Stanno cercando di applicare un sacco di patch tutte in una volta, più di quelle per cui il sistema è stato progettato."
Il segretario per la Sicurezza nazionale Markwayne Mullin ha offerto una diagnosi correlata in un'intervista alla CNBC, dicendo che le organizzazioni stanno "spingendo la nuova tecnologia su sistemi informatici molto vecchi, e sembra proprio sopraffare il sistema... Vedremo di più di questo man mano che la nuova tecnologia verrà lanciata."
L’account si allinea con una dinamica di sicurezza che i team hanno messo in guardia man mano che matura l’analisi del codice assistita dall’intelligenza artificiale: i modelli in grado di scansionare enormi basi di codice alla ricerca di difetti sfruttabili generano risultati più velocemente di quanto i processi di gestione del cambiamento possano assorbirli in sicurezza. L’applicazione delle patch è di per sé un’operazione rischiosa e applicarne troppe e troppo rapidamente su un’infrastruttura obsoleta può essere altrettanto dannoso quanto le vulnerabilità che risolve.
I legislatori chiedono risposte
La reazione politica è stata particolarmente bipartisan nella sua impazienza. Il senatore Josh Hawley, repubblicano del Missouri, ha detto ai giornalisti: "Se questa è tutta una coincidenza, è come la più grande coincidenza nella storia del mondo", mentre il senatore Jack Reed, il democratico in carica nel Comitato per le forze armate, si è unito alle richieste di una spiegazione più completa dello schema.
Trump ha pubblicamente minimizzato l’episodio. "È come quando sei grande e potente e hai tutti i soldi. Cose del genere succedono. Va bene", ha detto il presidente ai giornalisti a Manila. La Casa Bianca ha detto che "non c'è crisi".
Gli analisti citati nella copertura delle interruzioni hanno sottolineato due fattori cumulativi: profondi tagli al personale nelle operazioni tecnologiche negli ultimi anni e l’accelerazione dell’integrazione degli strumenti di intelligenza artificiale nella manutenzione dei sistemi, che potrebbero aver reso le infrastrutture critiche meno resilienti e più visibilmente fragili quando falliscono.
Cosa significa per il settore dell'intelligenza artificiale
Per il settore dell’intelligenza artificiale, la settimana rappresenta un avvertimento sul ritmo operativo creato dagli strumenti di intelligenza artificiale. Le stesse funzionalità del modello che consentono ai difensori di individuare le vulnerabilità alla velocità della macchina, li impegnano anche a rispettare programmi di riparazione che i sistemi legacy non sono mai stati progettati per soddisfare. Diversi fornitori ora commercializzano la scansione continua della sicurezza basata sull’intelligenza artificiale proprio perché rileva difetti che gli esseri umani sfuggono: le interruzioni suggeriscono che il collo di bottiglia si è spostato dalla scoperta alla distribuzione.
Ci si aspetta che i legislatori chiedano briefing formali sull’ondata di interruzioni quando il Congresso riporterà la sua attenzione sulla supervisione delle infrastrutture, e sia le agenzie che le banche probabilmente dovranno affrontare domande su come la manutenzione basata sull’intelligenza artificiale viene programmata, testata e limitata. L’episodio potrebbe anche alimentare un dibattito normativo emergente sulla questione se i cambiamenti assistiti dall’intelligenza artificiale ai sistemi critici debbano essere graduali e limitati in termini di velocità come altri cambiamenti operativi ad alto rischio.
Per ora i voli volano, le banche rispondono alle loro app e la NSA afferma che i suoi sistemi mission-critical funzionano bene. La scomoda lezione che il Congresso deve assorbire è che le macchine che scoprono i difetti potrebbero essere in vantaggio rispetto alle istituzioni che li risolvono.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →

