Nvidia가 지원하는 추론 스타트업인 Fireworks AI는 11월 9일 자사 사이트에 게시된 업데이트된 보안 게시판에 따라 이전에 공개된 보안 사고가 처음 보고된 것보다 공격자가 계정 및 청구 정보에 액세스하고 제한된 계정 세트, 비밀, 데이터 세트 및 불완전한 모델 가중치에 대해 접근하는 등 처음 보고된 것보다 훨씬 더 광범위하다고 고객에게 알렸습니다. Bloomberg와 Forbes는 월요일에 이 공개 내용을 보도했으며 Forbes는 사이버 공격이 고객 데이터 및 AI 모델을 노출시키는 것이라고 설명했습니다.

회사는 10월 9일 평가 작업에 사용되는 Fireworks에 저장된 비밀에만 접근했다고 말하면서 이 사건을 처음 공개했습니다. 새로운 업데이트는 해당 평가를 크게 확대하고 업계에서 "LLM재킹"이라고 부르는 대규모 언어 모델에 대한 액세스 권한을 도용하고 불법 라우팅 게이트웨이에 토큰을 재판매하는 행위를 추구하는 재정적 동기를 지닌 사이버 범죄 그룹에 침입을 연결합니다. AI 산업 보안 뉴스를 추적하는 기업들에게 이번 사건은 AI 인프라에 대한 새로운 종류의 공격에 대한 참고 사건으로 자리잡고 있습니다.

두 번째 침해는 어떻게 전개되었는가

공지에 따르면 Fireworks의 연구 및 개발 시스템을 호스팅하는 타사 클라우드 제공업체는 10월 23일 자체 보안 사고를 겪었습니다. 다음 날, 승인되지 않은 당사자가 해당 발판을 사용하여 Fireworks 개발 시스템에 접근하고 승인되지 않은 워크로드를 실행하여 고객 데이터에 추가적인 영향을 미쳤습니다. Fireworks는 같은 날 이러한 활동을 감지하고 해결 조치를 취했으며 10월 25일 현재 고객이 사용하는 플랫폼에서 무단 액세스가 성공했다는 추가 증거를 찾지 못했다고 밝혔습니다.

이 회사는 법의학 분석을 수행하고 있는 팔로 알토 네트웍스의 유닛 42와 협력하고 있으며 원래 사건 이후 법 집행 기관에 통보했다고 말했습니다. Google Threat Intelligence Group과 Mandiant는 11월 2일에 LLMJacking의 등장, 그 배후 동기, 사용된 기술을 기록한 블로그 게시물을 게시했습니다. 이는 Fireworks가 자체 공개에서 인용한 맥락입니다.

어떤 데이터가 수집되었나요?

영향을 받은 내부 애플리케이션은 공지에 따라 여러 범주의 정보를 노출했습니다.

  • Fireworks 리소스 식별자, 표시 이름, 설명, 생성 시간을 포함한 리소스 메타데이터.
  • 청구서 수신 및 배송 주소, 청구서 및 지불 내역, 계정 잔액, 크레딧 사용량을 포함한 청구 정보.
  • 모델 가중치 및 데이터세트: 특정 고객의 경우 불완전한 모델 가중치 및 데이터세트의 하위 집합에 액세스했습니다.

Fireworks는 결제 카드 번호가 시스템에 저장되지 않으며 영향을 받지 않는다고 말했습니다. 또한 기본적으로 데이터 보존이 전혀 없이 작동하는 핵심 Inference, Training SDK 및 Nexus 서비스에 아무런 영향을 미치지 않는다고 밝혔습니다. 즉, 고객 교육 또는 추론 데이터가 저장되지 않습니다. 회사는 데이터가 영향을 받은 고객에게 영향에 대한 세부 정보와 권장 대응 조치를 직접 통보하고 있다고 밝혔습니다.

격리 및 공개 질문

Fireworks는 이에 대한 대응의 일환으로 Unit 42와 협력하여 자격 증명 및 서비스 계정을 취소 및 교체하고, 불필요하게 상승된 권한을 제거하고, 네트워크 경로를 제한하고, 영향을 받는 시스템을 격리하고, 데이터 저장 및 분석 시스템에 대한 액세스를 강화하고, 로깅 및 모니터링을 강화했다고 밝혔습니다. 또한 조사가 진행되는 동안 일괄 추론 및 데이터 세트 기반 교육에 사용되는 셀프 서비스 데이터 세트 업로드 및 다운로드를 비활성화했습니다.

두 가지 중요한 질문이 남아 있습니다. 첫째, 액세스한 "불완전한 모델 가중치" 중 실제로 사용할 수 있는 부분입니다. 훈련 파이프라인에서 도난당한 부분적이거나 진행 중인 가중치는 여전히 개발 중인 고객 모델에 대한 경쟁 정보를 공개할 수 있으며 Fireworks는 어떤 고객 또는 얼마나 많은 고객이 영향을 받았는지 밝히지 않았습니다. 둘째, 독점 데이터세트가 노출된 고객에게는 어떤 의무가 따르나요? 회사는 조사가 진행 중이며 추가 정보가 공개될 수도 있다고 밝혔습니다.

LLM재킹이 성장하는 이유

LLMJacking 공격은 클라우드 호스팅 AI 서비스를 대상으로 기존 데이터가 아닌 사용 가능한 모델 액세스를 수집합니다. 도난당한 자격 증명이나 토큰은 상용 모델에 대한 저렴한 가격 액세스를 제공하는 섀도우 라우팅 게이트웨이를 통해 재판매됩니다. Google의 위협 인텔리전스 그룹(Threat Intelligence Group)과 Mandiant는 11월 2일 보고서에서 호스팅 추론의 기업 채택이 폭발적으로 증가함에 따라 보안 연구원들이 약 2년 동안 추적한 추세에 대해 집중적으로 설명했습니다.

Fireworks 공개는 공격자가 해당 플레이북을 AI 인프라 제공업체의 고객 모델 아티팩트 도난과 결합한 것으로 보이는 최초의 확인된 사례 중 하나입니다. 이는 AI 생태계 전반에 걸쳐 광범위한 보안 사고가 발생하는 가운데 추론 제공업체에 멀티 테넌트 플랫폼이 고객 워크로드를 격리할 수 있음을 입증하라는 압력을 가하는 것입니다. 추론 벤더를 평가하는 스타트업은 테넌트 격리, 자격 증명 위생 및 타사 클라우드 종속성에 대해 더 어려운 질문을 할 가능성이 높습니다. 여기서 활용되는 정확한 경로는 다음과 같습니다.

Fireworks는 자사 시스템을 24시간 내내 모니터링하고 있으며 조사가 진행됨에 따라 추가 업데이트를 게시할 것이라고 밝혔습니다. 우려 사항이 있는 고객은 사건 알림 이메일에 회신하거나 회사의 보안 알림 주소로 문의하도록 안내됩니다.

이 사건은 또한 AI 기업의 공개 규범이 어떻게 성숙해지고 있는지를 보여줍니다. Fireworks는 10월 초에 최초 침입이 발생한 지 며칠 만에 첫 번째 공지를 게시한 후 포렌식을 통해 상황이 확대됨에 따라 이를 두 번 수정했습니다. 보안 팀은 최근 기업 소프트웨어 침해 사례에서 이러한 일련의 내용을 인식할 것이지만 AI 인프라 제공업체 중 다수에서는 공개 사고를 처리한 적이 없는 경우가 많습니다. 핵심 추론 제품을 실행 중인 상태에서 셀프 서비스 데이터 세트 기능을 비활성화하는 선택은 노출이 고객 서비스 경로 자체가 아닌 보조 시스템에 집중되었음을 나타냅니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →