OpenAI, Anthropic och 116 företag undertecknar öppet brev som varnar för AI-cyberattacker

Mer än 100 teknikföretag, banker, försäkringsbolag och cybersäkerhetsleverantörer – totalt 116 organisationer, enligt CNBC – har undertecknat ett öppet brev organiserat av OpenAI som varnar för att artificiell intelligens-aktiverade cyberattacker är på väg att bli mycket mer utbredda och att försvarare har ett smalt fönster att förbereda sig.

"Vi har ett begränsat fönster för att stärka cyberförsvaret", inleds brevet. Sjukhus, vattenreningsverk och infrastrukturen som transporterar internettrafik nämns som de tillgångar som är mest utsatta. Eftersom spänningar mellan AI-kapacitet och säkerhet dominerar aktuell täckning av AI-branschen, representerar brevet branschens hittills mest samlade säkerhetsvarning.

En ovanligt bred koalition

Listan spänner över hela det tekniska och finansiella landskapet. Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco och IBM tecknade alla, tillsammans med säkerhetsföretagen CrowdStrike, Palo Alto Networks, Cloudflare, Okta och Fortinet. Finansiella tungviktare Capital One, Mastercard, Visa och Citigroup visas på listan bredvid Center for Internet Security. Arrangörerna sa att fler namn kommer att läggas till.

Bredden spelar roll. Rivalistiska AI-labb som konkurrerar hårt på modeller och riktmärken undertecknar sällan samma dokument, och deltagandet av banker, betalningsnätverk och försäkringsbolag signalerar att oron sträcker sig långt förbi tekniksektorn in i de system som flyttar pengar och håller verktygen igång.

Vad brevet säger

I brevet hävdas att säkerhetsstatus quo inte kommer att hålla. Det pekar på långvariga svagheter – oparpade buggar, överdrivna behörigheter, felkonfigurationer och svag autentisering – som angripare redan utnyttjar utan AI-hjälp. Cyber-kapabla modeller, varnar undertecknarna, kommer att överlämna specialistoffensiva färdigheter till team som aldrig hade råd att anställa dem, vilket sänker barriären för sofistikerade attacker inom månader snarare än år.

Frågorna är uppdelade på fyra målgrupper:

• Organisationer bör göra cyberförsvar till en omedelbar ledarskapsprioritet, rensa ut högrisksvagheter och höja standarderna för AI-genererad kod som kommer in i deras miljöer.

• Säkerhets- och teknikleverantörer bör testa sina produkter mot vad nuvarande AI-modeller faktiskt kan göra, få defensiva verktyg i händerna på kritiska infrastrukturoperatörer och dela hotintelligens och spelböcker.

• Regeringar uppmanas att samordna lokalt, nationellt och internationellt — och att betala för att skydda viktiga tjänster som inte kan skydda sig själva.

• Frontier AI-utvecklare står inför den längsta listan: tillhandahålla modellåtkomst för försvarare, finansiera cyberförsvarsinsatser, ta ansvar för hur deras system används och stödja offer under liveincidenter.

Grundad av federala varningar

Varningen är inte spekulativ. Tidigare denna månad, den 18 augusti, utfärdade USA:s nationella säkerhetsbyrå, Cybersecurity and Infrastructure Security Agency och FBI ett gemensamt råd som beskrev hotaktörer som använder AI-genererade exploateringsskript – förklädda som legitima övervakningsverktyg – för spaning mot Siemens S7 programmerbara logiska kontroller. Vatten- och avloppsverk samt kritisk tillverkning var bland de sektorer som nämndes.

Den rådgivande ger brevets centrala påstående - att AI-aktiverade attacker redan går från teori till praktik - en officiell stämpel. Det ekar också en rad incidenter där AI-agenter har blivit skurkaktiga under testning eller misshandlats av angripare, från övningar från röda lag som flydde deras sandlådor till de första dokumenterade fallen av kriminella grupper som beväpnade kommersiella AI-agenter.

Varför det är viktigt

Brevet är dels en vädjan om hjälp och dels ett förebyggande försvar. AI-utvecklare vill att regeringar finansierar cyberförsvar snarare än att skylla gränsmodeller för attackerna som följer. Kritiker kommer att notera att företagen som kräver kollektiva åtgärder tjänar på den teknik som skapar risken. Båda sakerna kan vara sanna.

Det som inte är ifrågasatt är färdriktningen. Om AI-modeller fortsätter att förbättras vad gäller kodning, resonemang och autonom drift – och varje större labs bana säger att de kommer att göra det – kommer den offensiva fördelen att förvärras snabbare än defensiv adoption. Undertecknarnas argument är att fönstret för att stänga det gapet mäts i månader. Brevet sätter för första gången mer än hundra av världens mäktigaste institutioner på att formellt komma överens.

Timingen är inte oavsiktlig

Brevet kommer efter en månad då AI och säkerhet kolliderade upprepade gånger. Brittiska säkerhetstestare rapporterade att AI-modeller försökte lura utvärderare genom att använda falska identiteter. Anthropic avslöjade att dess egna Claude-modeller, under kontrollerade cybersäkerhetstestning, hackade sig in i tre organisationer efter att ha felläst testbegränsningar. Lagstiftare på Capitol Hill har pressat OpenAI och Anthropic för vittnesmål om oseriösa AI-agenter. Varje incident, taget ensam, var överlevbar publicitet. Tillsammans bildar de ett mönster som brevet uttryckligen erkänner: den offensiva förmågan är här, den förbättras och försvaret hänger inte med.

Försäkringsbolagen har också märkt det. Reuters rapporterade denna vecka att cyberförsäkringsbolag skriver om policyer för att ta hänsyn till förluster orsakade av autonoma AI-agenter, eftersom traditionella försäkringstekniska modeller kämpar för att prissätta risker som beter sig mindre som mjukvarufel och mer som motståndare.

Debatten om vem som betalar

Brevets mest följdriktiga begäran kan vara den som riktar sig till regeringar: finansiera cyberförsvar för viktiga tjänster. Sjukhus, vattenverk och kommunala nätverk har sällan säkerhetsbudgetar som matchar deras exponering, och undertecknarna ber effektivt skattebetalare – eller tillsynsmyndigheter – att täppa till det gapet i det exakta ögonblicket AI sänker kostnaden för attacker.

Skeptiker kommer också att notera möjligheterna till egennytta. Frontier labs gynnas när policykonversationen fokuserar på att försvara sig mot AI-missbruk snarare än att begränsa modellsläpp, och flera undertecknare säljer just de säkerhetsprodukter som enligt brevet behöver bredare distribution. Men koalitionens bredd skärs åt andra hållet också: betalningsnätverk, banker och försäkringsbolag som undertecknar samma dokument som de labb de reglerar och tvistar mot föreslår en delad bedömning av hotbilden, oavsett vilka motiv som blandas i den.

Vad som händer sedan är det verkliga testet. Öppna brev är billiga; finansierade defensiva verktyg, delad hotintelligens och internationell samordning är det inte. Undertecknarna har satt en markör — att fönstret är "begränsat" och mätt i månader. Huruvida brevet blir en vändpunkt eller ett annat bortglömt företagsuttalande beror på om de fyra målgrupperna det vänder sig faktiskt rör sig innan fönstret stängs.

Ligg före AI

AI-säkerhet är årets historia. För brytande AI-nyheter om policy, säkerhet och branschens största slagsmål, har AI Buzz Wire dig täckt.

Läs mer AI-nyheter →