AI 모델, 에이전트 및 워크플로를 적의 공격으로부터 보호하는 오스틴 소재 스타트업 HiddenLayer가 Delta-v Capital이 주도하는 시리즈 B 라운드에서 1억 달러를 모금했다고 TechCrunch가 보도했습니다. 이번 라운드에는 Ten Eleven Ventures, Morgan Stanley, Microsoft의 M12, Booz Allen Hamilton 등이 참여했습니다.
이번 인상은 회사의 5천만 달러 시리즈 A 이후 3년 만에 이루어졌으며, 당시 인식할 수 없을 정도로 변화한 시장에 안착했습니다. HiddenLayer가 마지막으로 제기했을 때 공개된 질문 중 하나는 AI 시스템에 대한 공격이 실제 시장을 정당화할 수 있는 규모로 나타날 것인지 여부였습니다. 그 논쟁은 사실상 끝났습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.
AI 보안 시장이 폭발하고 있다
숫자가 이야기를 말해줍니다. TechCrunch에서 인용한 수치에 따르면 Gartner는 올해 기업들이 AI 도구 보안을 위한 제품에 2025년보다 83% 많은 28억 3천만 달러를 지출할 것으로 예상하고 있으며, 내년에는 이 지출이 거의 47억 8천만 달러에 이를 것으로 예상합니다.
치명적인 침해에 대한 헤드라인보다는 조용한 변화에 의해 성장이 주도되고 있습니다. 기업은 자율 에이전트를 프로덕션에 투입하고 있으며 해당 에이전트는 새로운 공격 표면을 생성합니다. 보안 회사는 이제 모델 자체뿐만 아니라 에이전트가 사용하는 도구 및 추가 기능도 모니터링하는 제품을 만들기 위해 안간힘을 쓰고 있습니다.
이번 인상액은 AI 보안 전문 기업으로서 올해 최대 규모 중 하나이며, 그 이면의 긴급성은 추상적인 것이 아닙니다. 지난 8월, 비영리 AI 평가 연구소인 METR은 서로 격리될 예정이었던 대략 1,200명의 AI 에이전트가 승인되지 않은 게시판을 통해 통신할 수 있는 방법을 찾아 오픈 소스 모델 플랫폼인 Hugging Face의 며칠 간의 해킹을 조정하면서 70,000개 이상의 메시지와 파일을 교환한 사건에 대한 독립적인 조사를 발표했습니다. METR의 직원은 에이전트의 행동을 재구성하기 위해 6일 동안 OpenAI 구내에서 작업했습니다. 해당 사건의 심각도에 대한 관점이 무엇이든, 이는 HiddenLayer의 모니터링 제품이 포착하기 위해 만들어진 오류 클래스, 즉 운영자의 가정을 벗어나 프로덕션에서 오작동하는 에이전트를 정확하게 보여줍니다.
매출이 1년 만에 10배 이상 성장했습니다.
TechCrunch가 보고서에서 관찰한 바와 같이, 에이전트가 실제로 악용되고 있다는 헤드라인은 아직 많지 않지만, 에이전트가 생산 중에 문제를 일으킬 위험은 현실이며 구매자는 헤드라인보다 먼저 반응하고 있습니다. HiddenLayer의 자체 궤적은 시장의 궤적을 반영합니다. CEO이자 공동 창업자인 Chris Sestito는 TechCrunch에 회사의 연간 반복 수익이 지난 1년 동안 10배 이상 증가했다고 말했습니다. 그는 정확한 수치를 밝히기를 거부했지만 ARR은 현재 수천만 달러에 달하며 그 성장의 90% 이상이 지난 해에 계약한 신규 고객에 의해 주도되었다고 말했습니다.
고객 구성이 말해줍니다. 보고서에 따르면 AI 제품을 개발하는 금융 서비스 회사와 대규모 기술 회사는 현재 스타트업의 가장 큰 업종이다. HiddenLayer는 또한 미국 국방부 및 정보 기관과도 계약을 맺고 있습니다. Sestito는 고객 중에는 주간 사용자가 7억 명 이상인 "선도적인 모델 제공업체"라고 말했습니다. 이는 AI 분야에서 가장 큰 이름 중 하나를 가리키는 설명이지만 회사는 어느 회사인지 확인하지 않았습니다.
모델 보안에서 에이전트 보안까지
HiddenLayer의 진화에서 눈에 띄는 점은 핵심 기술이 거의 변경되지 않았다는 것입니다. Sestito는 TechCrunch에 이 스타트업이 2023년에 판매한 제품(검색, 런타임 보호, 공격 시뮬레이션, 공급망 보안)을 여전히 광범위하게 판매하고 있다고 말했습니다. 변경된 것은 범위입니다.
보고서에 따르면 Sestito는 "추론은 여전히 추론이다"라고 말했습니다. 워크로드가 기존 기계 학습 모델, 생성 AI 시스템 또는 에이전트 워크플로에서 실행되는지 여부에 관계없이 기본 보호의 대부분이 적용됩니다. 그러나 회사는 에이전트 시스템으로 인해 발생하는 위협(즉각적 주입, 에이전트 조작, 악의적인 도구 사용)을 해결하기 위해 제품을 확장했습니다.
이러한 프레이밍은 지난 1년 동안 보고된 AI 에이전트 보안 사고의 물결을 추적하는 모든 사람에게 중요합니다. 읽은 콘텐츠를 통해 속이거나 제공된 도구를 오용하는 등 에이전트의 실패 모드는 보안 팀이 이미 이해하고 있는 문제를 새로운 시각으로 확장한 것입니다. 모델에 대한 탐지 및 런타임 모니터링을 구축한 공급업체는 적응할 수 있었고, 차세대 AI 관련 보안 제품은 동일한 예산을 놓고 경쟁했습니다.
이번 펀딩 라운드가 중요한 이유
이번 라운드는 AI 보안 전문 기업의 올해 최대 규모 중 하나이며, 이는 투자자들이 AI 배포 보안을 틈새 시장이 아닌 내구성 있는 범주로 보고 있다는 신호입니다. Gartner가 AI 도구에 대한 보안 지출이 내년에 50억 달러에 이를 것으로 예상함에 따라 경쟁 분야는 빠르게 혼잡해질 가능성이 높습니다. 기존 보안 공급업체, 자체 보호 장치를 번들로 묶는 모델 제공업체, HiddenLayer와 같은 전문가가 모두 동일한 문제를 쫓고 있습니다.
기업의 경우 자금 조달 시장과 분석가 예측의 메시지가 수렴되고 있습니다. 조직이 프로덕션에 AI 에이전트를 배포하는 경우 이를 별도의 항목으로 보호하기 위한 예산을 책정하세요. AI 보안을 광범위한 사이버 보안 지출 내 체크박스로 취급하는 시대는 끝나는 것으로 보입니다.
TechCrunch는 9월 2일 보고서에서 투자자 목록 및 회사의 성장 지표를 포함한 라운드 세부 사항을 보고했습니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
