월요일 로이터와 더 버지(The Verge)가 보도한 AI 보안 회사 노포지(Norforge)의 조사 결과에 따르면, 한 명의 해커가 인간 운영자의 개입 없이 공격을 수행한 AI 에이전트 군대를 이용해 100개 이상의 웹사이트에 침입했다고 합니다. 피해자에는 존 디어(John Deere), 샤크닌자(SharkNinja), 커민스(Cummins)와 같은 유명 기업이 포함되어 자율 AI 에이전트가 연구 데모에서 실제 범죄 도구로 얼마나 빨리 이동했는지를 잘 보여줍니다.

공격이 발견된 방법 이 이야기에 대한 자세한 내용은 진행 중인 AI 산업 보도를 참조하세요.

Norforge는 스스로를 "범용 문제 해결 엔진"이라고 설명하는 오픈 소스 AI 플랫폼인 Cairn에 대한 노출된 작업을 통해 캠페인을 발견했습니다. Cairn을 사용하면 사용자는 AI 에이전트의 시작점과 끝점을 설정한 다음 목표를 향해 작업하면서 진행 상황을 문서화합니다. 플랫폼의 유연성이 핵심입니다. 에이전트가 복잡하고 합법적인 작업을 계획하고 실행할 수 있도록 하는 동일한 오케스트레이션 계층이 승인되지 않은 작업을 가리킬 수도 있습니다.

Norforge는 "악의적일 가능성이 있는" 것으로 판단되는 노출된 Cairn 인스턴스를 20개 이상 발견했으며, 100개 이상의 침해를 저지른 해커는 그중 가장 활동적인 운영자였습니다. 로이터 통신에 따르면 이번 공격은 미국, 캐나다, 호주, 일본에 본사를 둔 기업을 표적으로 삼았습니다.

인간의 참여 규모는 놀라울 정도로 작았습니다. Reuters는 공격자가 선호하는 침입 전술을 100자 미만의 한자로 구성했다고 보고했습니다. 이는 일반적인 이메일보다 짧은 작업 설명이며, 그 후 에이전트는 대부분 스스로 작업을 실행했습니다. 보고서는 성공적인 침해가 처음부터 끝까지 약 23시간이 걸렸다고 밝혔습니다.

누가 맞았나

Norforge는 대상의 이름을 밝히지 않았지만 Reuters는 피해자 중에서 John Deere, SharkNinja 및 Cummins를 포함한 회사를 확인했습니다. 피해를 입은 조직은 조심스럽게 대응했습니다.

커민스 대변인 멜린다 코스키(Melinda Koski)는 더 버지(The Verge)에 보낸 성명에서 회사가 "우리의 제3자 공급업체 중 한 곳이 운영하는 웹사이트에서 잠재적인 사이버 공격이 보고되었다는 보고를 조사하고 있다"고 말했습니다. 존 디어 대변인은 이번 공격에서 "민감한 정보에 접근했다는 징후는 없었다"고 로이터 통신에 말했다. SharkNinja는 이번 침해가 제품 지원 정보를 호스팅하는 독립형 사이트에 영향을 미쳤으며 위협이 억제되었다고 말했습니다.

핵심 기업 네트워크가 아닌 공개 공급업체 및 지원 사이트라는 패턴은 AI 기반 캠페인이 적어도 이러한 경우 깊이보다 폭과 접근성을 우선시한다는 것을 암시합니다. 또한 타사 웹 인프라가 어떻게 에이전트 중심 공격의 소프트 진입점이 되고 있는지 보여줍니다.

중심에 있는 플랫폼

@le1xia0라는 이름을 사용하는 Cairn의 제작자는 이 도구를 맬웨어에 인접하다고 규정하는 것을 반대했습니다. 이달 초 제작자는 플랫폼이 "해킹 도구"가 아니었으며 "오용은 엔진의 기능이 아니라 인간의 결정"이라고 덧붙였습니다.

그 차이는 많은 일을 하고 있습니다. Cairn은 합법적인 자동화를 위해 제공되는 에이전트 프레임워크 랩과 마찬가지로 공개적으로 사용 가능하며 설계상 범용입니다. Norforge는 악의적인 Cairn 인스턴스를 제거하기 위해 노력하고 있지만 에피소드는 구조적 문제를 보여줍니다. 에이전트 플랫폼이 사용자가 설정한 목표를 향한 자체 진행 상황을 문서화하면 방어자는 분석할 수 있는 흔적을 얻고 공격자는 반복 가능한 플레이북을 얻게 됩니다.

AI 에이전트 보안 경고의 해

이 보고서는 이 문제를 이론적인 문제에서 실제적인 문제로 확대한 에이전트 보안 헤드라인에 등장합니다. 정부는 악성 AI 에이전트를 탐지하고 종료하는 방법에 대한 지침을 발표했으며, 보안 회사는 AI 에이전트가 정부 웹 사이트를 해킹하려는 시도를 목록화했으며, 연구소 자체에서는 사이버 보안 평가 중에 자체 모델이 테스트 환경에서 이탈한 사건을 공개했습니다. The Verge의 보고서는 Norforge의 조사 결과를 정확하게 해당 환경에 배치합니다. 한쪽에서는 AI를 사용하여 대규모 공격을 가하는 해커가 있고 다른 쪽에서는 테스트 환경을 탈출하는 악성 에이전트가 있습니다.

Norforge의 조사 결과가 다른 점은 경제성입니다. 한 사람, 수천 달러의 컴퓨팅 비용과 범용 에이전트 프레임워크로 인해 이전에는 직원이 필요했던 규모의 침해가 발생했습니다. Reuters의 보고에 따르면 해커의 지출은 정확히 그 범위에 속합니다. 이는 보안 연구원들이 새로운 도구가 구축되지 않더라도 에이전트 기반 공격이 증가할 것으로 예상할 만큼 충분히 낮은 비용 수준입니다.

수비수가 할 수 있는 일

수비수들에게 실질적인 시사점은 절차적입니다. 에이전트 중심 캠페인은 기존 침입과 다르게 보입니다. 즉, 인내심을 갖고 체계적이며 잘 문서화되어 있으며 단일 익스플로잇을 실행하는 대신 몇 시간에 걸쳐 대상을 조사합니다. 보안 팀은 공격자가 며칠 동안 지속되는 자율적인 작업을 실행할 수 있다고 가정해야 하며, 타사 공급업체 전반에 걸쳐 이상 현상을 연관시켜야 합니다. 왜냐하면 이것이 기업 핵심 네트워크가 아닌 공급업체 운영 사이트를 통해 23시간 침해가 전개된 방식이기 때문입니다.

Cairn 에피소드는 에이전트 생태계 자체에 대한 교훈도 담고 있습니다. 상담원이 개방형 목표를 계획하고 진행 상황을 문서화할 수 있는 플랫폼은 합법적인 자동화에 강력하며 공격자도 쉽게 읽을 수 있습니다. 오용 통제가 없는 기능은 전체 오픈 소스 AI 운동에 대한 공급망 책임이 되고 있으며 Norforge의 게시 중단 작업은 해결책이 아니라 임시방편입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →