해커들이 미국 항공우주 부문을 표적으로 삼은 침입에서 빠르게 떠오르는 AI 기반 해킹 프레임워크를 사용했다고 구글의 위협 정보 부서가 월요일 넥스트고브(Nextgov)가 보고한 조사 결과에서 밝혔습니다. Cairn으로 알려진 이 도구는 중국 오픈 소스 보안 커뮤니티와 연결된 공개적으로 사용 가능한 침투 테스트 프레임워크입니다. 실시간 침입 내부에 나타나는 이 도구는 에이전트 AI를 연구 데모에서 실제 스파이 활동으로 마이그레이션하는 또 다른 단계를 의미합니다.
구글은 접근한 항공우주 조직의 이름을 밝히지 않았고, 어떤 정보가 유출됐는지 밝히지 않았으며, 침입이 특정 정부에 의한 것으로 돌리지도 않았습니다. 이 보고서는 지난 분기에 관찰된 활동을 광범위하게 다루고 있으며 오늘날 AI 업계에서 에이전트 시스템이 방어자가 적응할 수 있는 것보다 더 빠르게 용도가 변경되는 가운데 발표되었습니다.
케언과 그 사촌들이 할 수 있는 일
Cairn은 이전 위협 보고서를 지배했던 챗봇 지원 해킹과 다릅니다. 인간이 AI 비서를 단계별로 안내하는 대신 Cairn은 AI 에이전트를 사용하여 서로 정보를 공유하고 시스템 침투를 위해 다음으로 시도할 해킹 기술을 결정합니다.
구글 연구원들은 해커들이 개별 단계를 지원하기 위해 AI 챗봇을 수동으로 유도했던 이전 활동에 비해 ARTEX, CyberStrikeAI 및 PentAGI를 포함한 다른 오픈 소스 시스템이 이제 "더 빠른 작업 속도로 다단계 침입을 실행"하는 데 사용되고 있다고 밝혔습니다. ARTEX는 금요일에 게시된 FBI 사이버 보안 권고에서 별도로 표시되었습니다.
가장 놀라운 발견: 완전 자동화된 공격
분기별 보고서에서 한 가지 발견이 눈에 띕니다. Google 연구원들은 인간이 루프에 개입하지 않고도 소프트웨어 수정 사항을 연구하고, 학습한 내용을 기반으로 공격을 개발하고, 해당 공격을 자동으로 실행하도록 구성된 공격자의 시스템을 발견했습니다. 회사는 연구원들이 해당 프로세스를 완전히 자동화하는 공격자를 식별한 것은 이번이 처음이라고 말했습니다.
그 의미는 뚜렷합니다. 패치 릴리스와 악용 사이의 경쟁이 몇 주에서 몇 시간으로 줄어들 수 있으며, 범죄자가 접근하기 전에 이미 보안 업데이트를 설치하는 데 어려움을 겪고 있는 조직에 더 큰 압력을 가할 수 있습니다. 동일한 조사 결과를 다루는 Hacker News는 AI 에이전트를 사용하여 소프트웨어 패치에서 직접 공격을 구축하고 실행하는 해커의 기술을 요약했습니다.
Nextgov에 따르면 회사는 "진입 장벽이 낮고 새로운 익스플로잇 통합이 용이하며 대규모 확장 가능성을 고려할 때 위협 행위자가 전 세계 조직을 표적으로 삼는 캠페인에서 이러한 프레임워크를 계속 사용할 가능성이 높다"고 말했습니다.
중국 팀, 분석을 산업화하다; 북한 모집자들, 합성하다
보고서는 또한 국가와 연계된 행위자들이 모델을 운영의 여러 단계에 적용하는 방법을 자세히 설명합니다. 중국 해킹 집단은 AI 모델을 사용하여 도난당한 파일을 분석하고 고객을 위한 완성된 인텔리전스 보고서를 생성했습니다. 한 사례에서 계약자는 AI를 사용하여 도난당한 정보를 번역 및 분석하고, 대상 조직의 구조를 파악하고, 조사 결과를 인텔리전스 보고서로 구성했습니다. 도난 자체가 아닌 도난에 따른 복잡한 해석 작업을 위한 기술을 사용했습니다.
구글은 또한 스파이 활동에 사용할 가능성이 있는 자체 시스템을 개발하는 중국 관련 그룹을 포함하여 자동화된 해킹 도구를 실험하는 것으로 의심되는 중국 요원을 관찰했습니다.
한편 북한 배우들은 AI를 이용해 사회공학을 강화하고 있다. 한 그룹 Google은 조작된 채용 담당자 프로필을 사용하여 북미와 유럽의 대상 암호화폐 조직을 추적합니다. 가짜 모집자는 대상을 위조 회의 서비스로 안내했으며, 그곳에서 기술적 문제를 해결하라는 지시를 받으면 악성 코드가 실행되었습니다.
공격자는 내부로 들어가 회사 코드 저장소에 있는 Anthropic의 AI 코딩 도우미인 Claude Code의 설정을 변경하여 도우미를 실행하면 악성 코드 다운로드가 실행되도록 했습니다. 신뢰할 수 있는 개발자 도구를 무기화한다는 것은 이미 신뢰하는 소프트웨어 엔지니어가 악의적인 행동을 펼친다는 것을 의미합니다.
이번 조사 결과는 지난주 4억 달러 이상의 절도와 관련된 북한의 가짜 화상 통화 사기인 페이스스틸러(FaceStealer)를 표적으로 삼은 법무부의 발표와 바이낸스에서 12억 달러 이상의 도난에 대한 법원 명령을 반영한 것입니다. Google의 보고서는 그 결과를 두 사례 모두에 연결하지 않았습니다.
영향력 있는 운영도 더욱 자동화됩니다
구글은 간첩 행위와 금융 범죄 외에도 러시아, 중국, 이란과 연계된 영향력 있는 활동이 이제 일상적으로 AI 모델을 사용하여 콘텐츠를 생산하고 배포를 자동화함으로써 온라인에서 일반 사람으로 가장하는 작업을 기계에 더 많이 위임하고 있다고 밝혔습니다.
넓어지는 격차
종합해보면, 조사 결과는 모든 오픈 소스 릴리스에서 증가하는 방어 문제를 보여줍니다. Cairn, ARTEX, CyberStrikeAI 및 PentAGI와 같은 침투 테스트 프레임워크는 보안 커뮤니티에 의해, 보안 커뮤니티를 위해 구축된 법적 도구이며, 에이전트 아키텍처는 레드팀에 정말 유용합니다. 동일한 속성으로 인해 다운로드하는 모든 사람을 위한 턴키 공격 무기가 됩니다.
방어자에게 보내는 Google의 메시지는 사실상 예측이 아니라 계획 가정입니다. 다음 침입이 시스템 속도, 배포를 완료하기 전에 패치 노트를 읽는 에이전트가 설정한 타임라인에 따라 실행되었다고 가정합니다.
---
AI보다 앞서 나가세요최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.
AI 뉴스 자세히 보기 →