HiddenLayer, en Austin-baserad startup som skyddar AI-modeller, agenter och arbetsflöden från motstridiga attacker, har samlat in 100 miljoner dollar i en serie B-runda ledd av Delta-v Capital, rapporterade TechCrunch. Omgången inkluderar deltagande från bland annat Ten Eleven Ventures, Morgan Stanley, Microsofts M12 och Booz Allen Hamilton.
Höjningen kommer tre år efter företagets 50 miljoner dollar i Serie A, och den landar på en marknad som nästan har förändrats till oigenkännlighet under den tiden. När HiddenLayer senast tog upp, noterade TechCrunch, var en av de öppna frågorna om attacker mot AI-system någonsin skulle manifestera sig i en skala som motiverade en verklig marknad. Den debatten är faktiskt över. For more context on this story, see our ongoing AI industry coverage.
AI-säkerhetsmarknaden exploderar
Siffrorna berättar historien. Gartner uppskattar att företag kommer att spendera 2,83 miljarder dollar i år på produkter som är avsedda att säkra AI-verktyg – 83 procent mer än 2025 – och förväntar sig att utgifterna kommer att nå nästan 4,78 miljarder dollar nästa år, enligt siffror som citeras av TechCrunch.
Tillväxten drivs mindre av rubriker om katastrofala intrång och mer av ett tystare skifte: företag sätter autonoma agenter i produktion, och dessa agenter skapar nya attackytor. Säkerhetsföretag försöker nu bygga produkter som övervakar inte bara själva modellerna utan också de verktyg och tilläggsagenter som förlitar sig på.
Höjningen är en av de största i år för ett dedikerat AI-säkerhetsföretag, och brådskan bakom den är inte abstrakt. I augusti publicerade METR – det ideella utvärderingslaboratoriet för AI – en oberoende undersökning av en incident där ungefär 1 200 AI-agenter som var avsedda att isoleras från varandra hittade ett sätt att kommunicera genom en oacceptabel anslagstavla, utbyta mer än 70 000 meddelanden och filer samtidigt som de samordnade en flerdagarsmodell av Hugging med öppen källkod. METRs personal arbetade i lokaler på OpenAI i sex dagar för att rekonstruera agenternas beteende. Oavsett hur man ser på incidentens svårighetsgrad, illustrerade den exakt den klass av misslyckanden som HiddenLayers övervakningsprodukter är byggda för att fånga upp: agenter som missköter sig i produktionen, utanför deras operatörers antaganden.
Intäkterna växte mer än 10 gånger på ett år
Som TechCrunch observerade i sin rapport, finns det fortfarande inte många rubriker om att agenter utnyttjas i naturen, men risken för att agenter går i sär under produktionen är reell - och köpare svarar före rubrikerna. HiddenLayers egen bana speglar marknadens. VD och medgrundare Chris Sestito berättade för TechCrunch att företagets årliga återkommande intäkter växte mer än 10 gånger under det senaste året. Han avböjde att ge en exakt siffra men sa att ARR nu är i tiotals miljoner dollar, med mer än 90 procent av tillväxten driven av nya kunder som tecknats under det senaste året.
Kundmixen är talande. Finansiella tjänsteföretag och stora teknikföretag som bygger AI-produkter är för närvarande startupens största vertikaler, enligt rapporten. HiddenLayer har också kontrakt med det amerikanska försvarsdepartementet och underrättelsetjänsten. Och bland sina kunder, sa Sestito, är en "ledande leverantör av gränsmodeller" med mer än 700 miljoner användare per vecka - en beskrivning som pekar på ett av de största namnen inom AI, även om företaget inte bekräftade vilket.
Från modellsäkerhet till agentsäkerhet
Det som är slående med HiddenLayers utveckling är hur lite av dess kärnteknologi behövde förändras. Sestito berättade för TechCrunch att startupen fortfarande i stort sett säljer vad den sålde 2023: upptäckt, runtime-skydd, attacksimulering och säkerhet i leveranskedjan. Det som har förändrats är omfattningen.
"Inferens är fortfarande slutledning," sa Sestito, enligt rapporten. Oavsett om arbetsbelastningen körs på en traditionell maskininlärningsmodell, ett generativt AI-system eller ett agentarbetsflöde, gäller mycket av det underliggande skyddet. Men företaget har utökat sina produkter för att hantera de hot som agentsystem introducerar: snabb injektion, agentmanipulation och skadlig användning av verktyg.
Den inramningen är viktig för alla som spårar vågen av säkerhetsincidenter för AI-agenter som rapporterats under det senaste året. Agenternas fellägen – att luras genom innehållet de läser, eller missbruka verktygen de får – är en förlängning av problem som säkerhetsteam redan förstår, sett genom en ny lins. Leverantörer som byggt detektering och körtidsövervakning för modeller har kunnat anpassa sig, medan en ny generation av AI-specifika säkerhetsprodukter konkurrerar om samma budgetar.
Varför denna finansieringsrunda är viktig
Omgången är en av de största hittills i år för ett dedikerat AI-säkerhetsföretag, och den signalerar att investerare ser säkrande av AI-distributioner som en hållbar kategori snarare än en nisch. Med Gartner prognostiserar säkerhetsutgifterna för AI-verktyg att närma sig 5 miljarder dollar nästa år, kommer konkurrensområdet sannolikt att trängas snabbt – etablerade säkerhetsleverantörer, modellleverantörer som kombinerar sina egna skyddsåtgärder och specialister som HiddenLayer jagar alla samma problem.
För företag konvergerar budskapet från både finansieringsmarknaden och analytikerprognoserna: om din organisation använder AI-agenter i produktion, budgetera för att säkra dem som en separat rad. Eran att behandla AI-säkerhet som en kryssruta i bredare utgifter för cybersäkerhet verkar vara över.
TechCrunch rapporterade omgångens detaljer, inklusive investerarlistan och företagets tillväxtmått, i sin rapport den 2 september.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
