Directorii de pe Wall Street și oficialii Agenției Naționale de Securitate le-au spus membrilor Congresului că cascada de întreruperi de tehnologie din SUA a fost cauzată nu de atacuri cibernetice, ci de eforturile de urgență de a corecta vulnerabilitățile pe care modelele de inteligență artificială le-au descoperit, potrivit unui raport al The Washington Sun, care citează trei surse familiare cu conversațiile private.

Afirmația, dacă va fi fundamentată, ar marca unul dintre cele mai clare cazuri de până acum în care efectele de ordinul doi ale AI au destabilizat infrastructura critică - nu pentru că modelele au atacat ceva, ci pentru că au descoperit atât de multe slăbiciuni reale încât operatorii umani s-au grăbit să le repare pe toate odată. For more context on this story, see our ongoing AI trends.

O săptămână de eșecuri în cascadă

Întreruperile au început să se acumuleze pe 12 noiembrie și s-au accelerat pe parcursul săptămânii. Pe 13 noiembrie, autoritățile aviatice americane au emis o oprire la sol la nivel național pentru o defecțiune a tehnologiei de comunicații – ceea ce The Straits Times a descris drept cea mai lungă oprire la nivel național a zborurilor de la atacurile din 11 septembrie 2001. Serviciul de e-mail Outlook de la Microsoft a suferit întreruperi care au eliminat corespondența pentru multe companii din SUA, iar serviciile Apple, inclusiv iCloud, App Store și Apple Pay, au scăzut, de asemenea.

Pe 16 noiembrie, tulburările au ajuns în sistemul bancar, clienții de la instituții, inclusiv JPMorgan Chase, neputând accesa conturile; banca și-a atribuit problemele legate de servicii erorilor software. Pe 17 noiembrie, NSA însăși a anunțat că rețeaua sa a suferit o „degradare temporară” în timpul a ceea ce a numit întreținerea de rutină programată, insistând în același timp că „capacitățile critice pentru misiune” rămân pe deplin operaționale.

Oficialii au exclus în mod constant un atac cibernetic ostil. Secretarul de stat Marco Rubio, în calitate de consilier pentru securitate națională, a recunoscut că incidentele au fost „neliniștitoare”, dar le-a spus reporterilor din Manila, unde președintele Donald Trump a participat la conferința economică a ASEAN: „Nu suntem supuși unui atac sistemic. Nu avem nicio dovadă sau vreun motiv să credem că oricare dintre acestea sunt legate”.

Explicația AI-patching

În culise, pe Capitol Hill a circulat o explicație diferită. Potrivit rapoartelor The Washington Sun, oficialii guvernamentali și din sectorul bancar le-au spus parlamentarilor că întreruperile au rezultat din încercările de a repara lacunele în apărarea cibernetică pe care modelele AI le-au identificat și că fluxul de remedieri rezultat a copleșit temporar sistemele afectate.

„Aceste modele identifică vulnerabilități masive, iar asta crește urgența de a corecta imediat”, a declarat un oficial al Congresului informat despre această problemă. „Ei încearcă să treacă printr-o mulțime de patch-uri dintr-o dată – mai mult decât pentru care a fost proiectat sistemul.”

Secretarul pentru Securitate Internă, Markwayne Mullin, a oferit un diagnostic similar într-un interviu CNBC, spunând că organizațiile „împing noi tehnologii peste sistemele computerizate cu adevărat vechi și pur și simplu pare să copleșească sistemul... Vom vedea mai multe despre acest lucru pe măsură ce noua tehnologie va fi lansată”.

Contul se aliniază cu o dinamică despre care au avertizat echipele de securitate pe măsură ce analiza codului asistată de AI se maturizează: modelele care pot scana baze de cod enorme pentru defecte exploatabile generează constatări mai rapid decât le pot absorbi procesele de management al schimbării. Patch-ul este în sine o operațiune riscantă, iar a face prea mult din ea prea rapid pe infrastructura învechită poate fi la fel de perturbatoare ca și vulnerabilitățile pe care le remediază.

Legislatorii împing pentru răspunsuri

Reacția politică a fost deosebit de bipartizană în nerăbdare. Senatorul Josh Hawley, un republican din Missouri, le-a spus reporterilor: „Dacă toate acestea sunt o coincidență, este ca cea mai mare coincidență din istoria lumii”, în timp ce senatorul Jack Reed, democratul clasat în cadrul Comitetului pentru Servicii Armate, s-a alăturat solicitărilor pentru o explicație mai completă a modelului.

Trump a minimizat public episodul. "Este ca atunci când ești mare și puternic și ai toți banii. Se întâmplă astfel de lucruri. E în regulă", a spus președintele reporterilor din Manila. Casa Albă a spus că „nu există nicio criză”.

Analiștii citați în acoperirea întreruperilor au subliniat doi factori agravați: reduceri profunde de personal în operațiunile tehnologice în ultimii ani și integrarea accelerată a instrumentelor AI în întreținerea sistemelor, care ar fi putut face infrastructura critică atât mai puțin rezistentă, cât și mai vizibil fragilă atunci când eșuează.

Ce înseamnă pentru industria AI

Pentru sectorul AI, săptămâna este un avertisment cu privire la ritmul operațional pe care îl creează instrumentele AI. Aceleași capabilități de model care le permit apărătorilor să găsească vulnerabilități la viteza mașinii, de asemenea, îi angajează să respecte programe de remediere pe care sistemele vechi nu au fost niciodată proiectate să le îndeplinească. Câțiva furnizori comercializează acum scanare de securitate continuă bazată pe inteligență artificială tocmai pentru că găsește defecte pe care oamenii le scapă – întreruperile sugerează că blocajul a trecut de la descoperire la implementare.

Se așteaptă ca parlamentarii să caute informări formale despre valul de întrerupere atunci când Congresul își întoarce atenția asupra supravegherii infrastructurii și este posibil ca atât agențiile, cât și băncile să se confrunte cu întrebări despre modul în care este programată, testată și accelerată întreținerea bazată pe inteligență artificială. Episodul poate alimenta, de asemenea, o dezbatere de reglementare în curs de dezvoltare cu privire la dacă schimbările asistate de AI la sistemele critice ar trebui să fie organizate și limitate la rată, ca și alte schimbări operaționale cu risc ridicat.

Deocamdată, zborurile zboară, băncile răspund la aplicațiile lor, iar NSA spune că sistemele sale critice sunt în regulă. Lecția inconfortabilă pe care i se cere Congresul să o absoarbă este că mașinile care găsesc defecțiunile ar putea merge înaintea instituțiilor care le repară.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →