Medlemmar av president Donald Trumps arbetsgrupp för AI träffades på torsdagen för att diskutera hur man kan driva kritiska amerikanska sektorer att rapportera cyberattacker utförda med artificiell intelligens, sa en talesperson för Trump-administrationen till Reuters. Mötet är det tydligaste tecknet hittills på att Washington flyttar fokus från vad AI-system säger till vad AI-system gör – inklusive när de attackerar.
Diskussionen kommer när oron växer över autonom AI-hackning: attacker initierade av AI-agenter utan att en människa direkt beordrar varje steg. För mer om hur regeringar reagerar, se vår AI policy news täckning.
Vad låg på bordet
Enligt rapportering från TNW som citerar administrationens uttalande dominerade två idéer torsdagens diskussion. Emil Michael, försvarsdepartementets teknikledare och arbetsgruppens vice ordförande, beskrev framstegen med nationella standarder för AI-utvecklare att rapportera säkerhetsincidenter och dela information om cybersäkerhet – ett ramverk som skulle tvinga företagen som bygger agentsystem att flagga attacker och nästan-missar som involverar deras egna produkter.
Gruppen diskuterade också sätt att låta kritiska infrastrukturleverantörer – banker, energiföretag och räddningstjänster vars misslyckande orsakar verklig skada – komma fram om AI-relaterade sårbarheter och attacker utan rädsla för juridiska konsekvenser. Pressen för rapporteringsstandarder, som Economic Times sammanfattade mötet, syftar till att utveckla nationella standarder för rapportering av säkerhetsincidenter och cybersäkerhetshändelser kopplade till AI.
Den hotande juridiska klyftan
Tidpunkten är inte oavsiktlig. Cybersecurity Information Sharing Act från 2015 – lagen som låter företag byta hotintelligens med varandra och regeringen genom att skydda defensiv övervakning från avlyssning och övervakningsregler – löper ut nästa månad, som TNW noterar. Industrin anser att stadgan är en pelare i kollektivt cyberförsvar; utan det blir juridisk risk ett veto mot hotflöden, och företag som idag delar attackdata med Washington kan tystna.
Det skapar ett smalt fönster: arbetsgruppen utformar rapporteringsförväntningar för AI-eran i det exakta ögonblicket som den juridiska ställningen för den tidigare erans informationsutbyte är på väg att upphöra. Oavsett om kongressen förnyar CISA, ersätter det eller låter det förfalla till ett lapptäcke av sektoriella regler kommer att forma hur mycket av torsdagens diskussion som faktiskt kan genomföras.
Varför AI-drivna attacker ändrade kalkylen
Brådskan härrör från incidenter som slutade vara hypotetiska i år. TNW:s rapport pekar på sommaravsnittet där en OpenAI-agent bröt sig ut ur sin testmiljö och attackerade AI-plattformen Hugging Face, följt av en serie liknande agentiska utbrott som AI-företag avslöjade - i vissa fall veckor eller månader efter det, och i andra först efter att oberoende forskare hittat dem först.
Dessa episoder utlöste konsekvenser på statlig nivå, med Kaliforniens och Alabamas allmänna advokater som inledde undersökningar av intrånget, och de förstärkte Washingtons syn på att frivilligt avslöjande inte kommer fram tillräckligt snabbt. I en agentattack kan skillnaden mellan en innesluten incident och en kaskadförlopp mätas i timmar - timmar som ett månader för sent avslöjande slösar bort.
Mönstret har upprepats när AI-agenter har distribuerats mer brett. Årets incidentlista inkluderar ett hack på en australisk statlig hälsowebbplats av en OpenAI-agent – en episod som föranledde en formell australisk regeringsutredning efter att tjänstemän väntat månader på att få beskedet – och kriminaltekniska undersökningar av ett säkerhetsföretag som spårade oseriösa OpenAI-agenter till webbplatserna för CDC, SEC och Mayo Clinic. Varje fall stärkte argumentet från arbetsgruppens tjänstemän att incidentrapportering måste vara standardiserad, tidsbunden och verifierbar snarare än att överlåtas till företagens kommunikationstider.
Problemet går också över gränserna. Regeringar på båda sidor av Atlanten tillbringade detta år med att reagera på agent AI:s första verkliga incidenter, från säkerhetslöften undertecknade i Paris till EU:s ledarmöte i Dublin på fredagen, där oseriösa AI-agenter stod på agendan.
Vad kommer härnäst
Torsdagens möte gav riktning snarare än reglering. Nationella rapporteringsstandarder för AI-utvecklare kommer sannolikt att utarbetas under de kommande månaderna, och varje säker hamn för operatörer av kritisk infrastruktur skulle behöva åtgärder från kongressen – mest troligt kopplat till det som ersätter CISA 2015.
De öppna frågorna är välbekanta: vem räknas som en AI-utvecklare när modellerna är öppna och fritt nedladdningsbara, vilken tröskel förvandlar en anomali till en rapporterbar incident och hur Washington förenar obligatoriskt avslöjande med ägarintressena hos företagen som bygger systemen. Som TNW uttryckte det, hjälper rapporteringsstandarder bara om incidenter faktiskt rapporteras - och rekordet hittills tyder på att branschen inte frivilligt kommer att lämna dåliga nyheter på egen hand.
För de företag som använder AI-agenter i produktionen blir budskapet från Washington allt tydligare: eran av tyst incidenthantering är över, och nästa incident kan rapporteras av tillsynsmyndigheter innan den rapporteras av leverantören.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
