Booz Allen 보고서, AI 모델이 자율적인 사이버 공격 기능에 접근하고 있다고 경고

Booz Allen의 Cyber Weapon Index는 전체 사이버 킬 체인을 대상으로 18개의 AI 모델을 테스트했습니다. 한 명은 완전히 자체적으로 완료했으며 대부분의 다른 사람들은 6개월 뒤처졌습니다.

미국 최대의 사이버 보안 계약업체 중 하나는 보안 연구원들이 일년 내내 경고해 온 내용에 대해 수치를 밝혔습니다. 챗봇과 코딩 보조자를 위해 구축된 최첨단 AI 모델은 이제 대부분 스스로 사이버 공격을 실행할 수 있습니다. AI 보안 개발에 대한 지속적인 보도는 AI Buzz Wire를 참조하세요.

SC Media와 The Register가 보도하고 지난 주 산업 보안 세계를 순회한 Booz Allen Hamilton의 새로운 보고서는 18개의 AI 모델(미국 9개, 중국 9개)을 평가한 결과, 그 중 하나가 테스트에서 전체 사이버 킬 체인을 자율적으로 완료한 것으로 나타났습니다. 즉, 취약점 식별, 대상 네트워크에 대한 액세스 권한 확보, 사람의 개입 없이 관리자 수준 제어로 확대됩니다.

한 모델이 킬체인을 완성했습니다

사이버 무기 지수(Cyber Weapon Index)로 알려진 이 보고서는 전체 공격 시퀀스를 자율적으로 완료한 유일한 모델로 Anthropic의 Claude Mythos를 평가했습니다. 다른 몇몇 사람들도 불편할 정도로 가까이 다가왔습니다. SC Media의 조사 결과 보도에 따르면, xAI의 Grok-4.5와 OpenAI의 GPT-5.6 Sol은 상당한 자율 공격 진행을 보여 전체 도메인 액세스 또는 손상된 네트워크 내 측면 이동에 도달했습니다. 이는 운영자가 초기 진입과 전체 제어 사이에서 수행하는 중간 단계입니다.

사이버 보안 측면에서 킬 체인은 공격, 확대, 지속성을 통한 정찰을 포괄합니다. 도움 없이 완료하는 모델은 요청 시 익스플로잇 코드를 작성하는 도구가 아니라 공격적인 사이버 운영자로서 효과적으로 기능했습니다.

모델보다 하네스가 더 중요하다

아마도 보고서의 가장 중요한 발견은 모델이 아니라 소프트웨어에 관한 것입니다. AI 모델을 실제 해킹 도구, 스캐너 및 익스플로잇 프레임워크에 연결하는 비계인 공격 하네스는 모델이 이미 갖고 있는 모든 공격 능력을 극적으로 증폭시킵니다. 유능한 하네스에 연결된 중간 계층 모델은 원시로 작동하는 더 강력한 모델보다 성능이 뛰어날 수 있습니다. 즉, 다음 모델 릴리스와는 아무런 관련이 없는 이유로 자동 공격 기능에 대한 장벽이 낮아지고 있음을 의미합니다.

Booz Allen의 분석가들은 금전적 동기를 지닌 범죄 집단과 국가 후원을 받는 행위자들의 주류 AI 기반 공격이 이제 임박했다고 경고합니다. 그들의 예측: 테스트된 대부분의 모델은 6개월 이내에 오늘날의 리더와 비슷한 무기화 수준에 도달할 것으로 예상됩니다. 또한 회사는 미국 정부가 중요 인프라 운영자가 AI 기반 공격에 대한 회복력을 입증하고 자체적으로 뛰어난 공격 및 방어 AI 기능을 개발할 수 있도록 기한을 정할 것을 촉구합니다.

업계 자체에 맞는 경고

이번 평가는 AI 업계 내부에서 일련의 유사한 경고가 나온 가운데 이루어졌습니다. Anthropic은 이전에 AI 기반 사이버 공격을 중요한 변곡점으로 표시했으며 OpenAI의 자체 프론티어 모델 출시에는 회사가 해당 모델이 실제 네트워크에 무엇을 할 수 있는지 평가하는 동안 액세스를 제한하기로 한 결정을 포함하여 고급 사이버 기능에 대한 특이한 공개 공개가 수반되었습니다. Industrial Cyber가 실시한 Booz Allen의 조사 결과에 대한 별도의 보고에서는 동일한 보고서를 AI 자율성이 증가함에 따라 중요 인프라에 대한 대응 기간이 좁아지고 있다는 경고로 구성했습니다.

이 피드가 제공하는 정책 토론은 더 이상 가설이 아닙니다. 국회의원들은 이미 미국의 주요 인프라 내에서 실행되는 외국산 AI 모델의 사이버 보안 위험에 대한 조사를 시작했으며, 전력망 운영자는 에너지 시스템에 대한 국가 지원 관심 증가와 동시에 AI 기반 전력 수요가 급증했다고 보고했습니다. 상용 AI 모델이 자체적으로 킬 체인을 완성하는 문서화된 테스트는 이러한 추상화를 벤치마크로 변환합니다.

수비수가 취해야 할 점

보안 팀의 경우 보고서의 실질적인 의미는 헤드라인보다 좁습니다. 자율 공격은 자율 방어를 전제로 합니다. 모델 체인이 악용할 수 있는 동일한 에이전트 기능이 이미 블루 사이드에 배포되어 경고를 분류하고, 원격 분석을 연관시키고, 기계 속도로 패치를 적용하고 있습니다. Booz Allen이 확인한 격차는 조직적입니다. 대부분의 중요한 인프라 운영자는 여전히 사고 대응을 몇 시간 단위로 측정하는 반면, AI 지원 공격은 그에 상응하는 시간을 몇 분 단위로 압축합니다.

회사가 엄격한 기한을 권고하는 것은 시장 압력이 아닌 규제가 그 격차를 줄일 것이라는 확신입니다. 미국이 이를 추진할지 여부, 그리고 AI 공급업체가 공격 능력 평가를 약리학이 임상 시험을 처리하는 방식과 마찬가지로 출시 전 관문으로 취급할지 여부가 향후 6개월 동안의 보고서 예측이 실제로 어떻게 진행되는지를 결정하게 될 것입니다.

공격형 시장은 이미 형성되고 있다

이 기능이 제품 범주가 되고 있는지 확인이 필요한 경우 보고서가 유포된 지 하루 만에 도착했습니다. 9월 4일 SC Media가 별도로 보도한 바와 같이, Abliteration.ai라는 스타트업은 다른 제공업체가 거부하는 AI 모델을 사용한 공격적인 사이버 작전, 레드팀 구성 및 에이전트 테스트를 가능하게 하는 것을 명시적으로 목표로 하는 서비스를 시작했습니다. 타이밍은 하네스에 대한 보고서의 핵심 요점을 강조합니다. 자동 공격의 병목 현상은 더 이상 모델 기능이 아니라 주변 툴링이며, 툴링은 현재 시장에서 자체적으로 제공하는 것입니다.

방어팀은 결과에 따라 조치를 취하기 위해 다음 벤치마크 주기를 기다릴 필요가 없습니다. 보고서의 6개월 무기화 기간은 기능적으로 자산 목록, 분할 및 응답 시간 측정(자율 공격자가 강화된 네트워크를 만날지 개방형 네트워크를 만날지 여부를 결정하는 미미한 통제)의 기한입니다.