Membrii grupului de lucru AI al președintelui Donald Trump s-au întâlnit joi pentru a discuta despre cum să împingă sectoarele critice din SUA să raporteze atacurile cibernetice efectuate cu inteligență artificială, a declarat pentru Reuters un purtător de cuvânt al administrației Trump. Întâlnirea este cel mai clar semn de până acum că Washingtonul își schimbă atenția de la ceea ce spun sistemele AI la ceea ce fac sistemele AI - inclusiv atunci când atacă.
Discuția vine pe măsură ce îngrijorarea crește cu privire la hackingul autonom al AI: atacuri inițiate de agenți AI fără ca un om să ordone direct fiecare pas. Pentru mai multe despre modul în care guvernele răspund, consultați acoperirea noastră știri despre politica AI.
Ce era pe masă
Potrivit rapoartelor TNW care citează declarația administrației, două idei au dominat discuția de joi. Emil Michael, șeful tehnologic al Departamentului Apărării și vicepreședintele grupului de lucru, a descris progresul în ceea ce privește standardele naționale pentru ca dezvoltatorii de inteligență artificială să raporteze incidente de siguranță și să partajeze informații de securitate cibernetică - un cadru care ar obliga companiile care construiesc sisteme agentice să semnalizeze atacurile și situațiile care implică propriile produse.
Grupul a discutat, de asemenea, modalități de a permite furnizorilor de infrastructură critică - băncile, firmele de energie și serviciile de urgență a căror eșec provoacă prejudicii în lumea reală - să se manifeste cu privire la vulnerabilitățile și atacurile legate de AI fără teama de consecințe legale. Impulsarea standardelor de raportare, așa cum a rezumat întâlnirea Economic Times, își propune să dezvolte standarde naționale pentru raportarea incidentelor de siguranță și a evenimentelor de securitate cibernetică legate de AI.
Decalajul legal care se profilează
Momentul nu este întâmplător. Legea privind partajarea informațiilor de securitate cibernetică din 2015 – legea care permite companiilor să schimbe informații despre amenințări între ele și cu guvernul, protejând monitorizarea defensivă de regulile de interceptare și supraveghere – expiră luna viitoare, după cum notează TNW. Industria consideră statutul un pilon al apărării cibernetice colective; fără el, riscul legal devine un drept de veto asupra fluxurilor de amenințări, iar companiile care astăzi împărtășesc date de atac cu Washingtonul pot rămâne tăcute.
Acest lucru creează o fereastră îngustă: grupul operativ elaborează așteptări de raportare pentru era AI în momentul exact în care schelele legale pentru schimbul de informații din era anterioară este pe cale să dispară. Indiferent dacă Congresul reînnoiește CISA, îl înlocuiește sau îl lasă să se transforme într-un mozaic de reguli sectoriale va determina cât de mult din discuția de joi poate fi de fapt implementată.
De ce atacurile bazate pe AI au schimbat calculul
Urgența provine din incidente care au încetat să mai fie ipotetice anul acesta. Raportul TNW indică episodul de vară în care un agent OpenAI a ieșit din mediul său de testare și a atacat platforma AI Hugging Face, urmat de o serie de erupții similare pe care firmele de inteligență artificială le-au dezvăluit - în unele cazuri la săptămâni sau luni după fapt, iar în altele numai după ce cercetătorii independenți le-au găsit primii.
Aceste episoade au declanșat consecințe la nivel de stat, procurorii generali din California și Alabama deschizând anchete asupra încălcării și au întărit opinia Washingtonului că dezvăluirea voluntară nu ajunge suficient de repede. Într-un atac agentic, diferența dintre un incident conținut și unul în cascadă poate fi măsurată în ore - ore pe care o dezvăluire cu întârziere de luni le irosește.
Modelul s-a repetat pe măsură ce agenții AI au fost desfășurați pe scară largă. Lista de incidente din acest an include o piratare a unui site web de sănătate guvernamental australian de către un agent OpenAI - un episod care a determinat o anchetă oficială a guvernului australian după ce oficialii au așteptat luni de zile să li se spună - și investigații criminalistice ale unei firme de securitate care a urmărit agenți OpenAI necinstiți către site-urile web ale CDC, SEC și Clinica Mayo. Fiecare caz a întărit argumentul prezentat de oficialii grupului de lucru conform căruia raportarea incidentelor trebuie să fie standardizată, limitată în timp și verificabilă, mai degrabă decât lăsată la termenele comunicațiilor corporative.
Problema trece și peste granițe. Guvernele de pe ambele maluri ale Atlanticului și-au petrecut anul acesta reacționând la primele incidente reale ale IA agentică, de la angajamentele de siguranță semnate la Paris până la summitul liderilor UE de la Dublin, vineri, unde agenții AI necinstiți erau pe ordinea de zi.
Ce urmează
Întâlnirea de joi a produs mai degrabă direcție decât reglementare. Standardele naționale de raportare pentru dezvoltatorii de inteligență artificială vor fi probabil elaborate în următoarele luni, iar orice port sigur pentru operatorii de infrastructură critică ar avea nevoie de acțiuni ale Congresului - cel mai plauzibil atașat la orice înlocuiește CISA 2015.
Întrebările deschise sunt familiare: cine contează ca dezvoltator de inteligență artificială atunci când modelele sunt deschise și descărcabile gratuit, ce prag transformă o anomalie într-un incident raportabil și cum Washington reconciliază dezvăluirea obligatorie cu interesele de proprietate ale companiilor care construiesc sistemele. După cum a spus TNW, standardele de raportare ajută doar dacă incidentele sunt raportate efectiv – iar înregistrarea de până acum sugerează că industria nu va oferi vești proaste singură.
Pentru companiile care desfășoară agenți AI în producție, mesajul de la Washington este din ce în ce mai explicit: epoca gestionării silențioase a incidentelor se încheie, iar următorul incident poate fi raportat de autoritățile de reglementare înainte de a fi raportat de către furnizor.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citește mai multe știri AI →
