Meta 및 OpenAI가 Mercor 데이터 침해로 적발되어 LiteLLM 공급망에 문제가 발생했습니다.

오픈 소스 LiteLLM 도구에 대한 자격 증명 수집 공격으로 인해 Mercor 데이터가 노출되어 Meta가 작업을 중단하고 AI 공급망에 대한 어려운 질문이 제기되었습니다.

단일 오픈 소스 패키지에 대한 공급망 공격은 젊은 AI 업계에서 가장 난잡한 보안 사고 중 하나로 이어져 데이터 라벨링 스타트업인 Mercor가 보유한 데이터를 노출시키고 Meta가 회사와의 작업을 무기한 중단하게 만들었습니다.

Mercor가 3월 31일에 확인한 위반은 매일 수백만 번 다운로드되는 널리 사용되는 오픈 소스 도구인 LiteLLM의 손상으로 추적되었습니다. 약 40분 동안 LiteLLM의 중독된 버전에는 로그인 자격 증명을 훔친 다음 이를 사용하여 연결된 시스템에 더 깊이 접근하는 자격 증명 수집 악성 코드가 숨어 있었습니다. 이 에피소드는 이후 소송, 계약 동결, AI 산업이 통제할 수 없는 중개 소프트웨어에 대한 신뢰도에 대한 더 넓은 평가로 전이되었습니다. 보안과 신뢰에 대한 자세한 AI 속보를 보려면 당사의 지속적인 보도를 팔로우하세요.

공격의 작동 방식

메커니즘은 교과서적인 소프트웨어 공급망 타협입니다. TechJuice와 TechCrunch의 보고에 따르면 공격자는 많은 AI 회사가 서로 다른 언어 모델 간에 요청을 라우팅하는 데 사용하는 오픈 소스 라이브러리인 LiteLLM에 악성 코드를 푸시했습니다. LiteLLM은 신뢰할 수 있는 인프라로 간주되어 자동으로 프로덕션 환경으로 끌어오기 때문에 악성 빌드가 빠르게 확산됩니다.

약 40분 동안 변조된 도구는 이를 실행하는 모든 사람의 자격 증명을 조용히 수집했습니다. 그런 다음 해당 자격 증명을 사용하여 추가 시스템에 액세스하여 초기 기반을 넘어서 피해를 가중시켰습니다. 대량의 민감한 계약자 및 고객 데이터를 관리하는 사업을 운영하는 Mercor가 가장 많이 노출된 기업 중 하나였습니다.

4테라바이트 강탈 주장

공개 후 해커 그룹은 Mercor 시스템에서 훔친 약 4테라바이트의 데이터를 보유하고 있다고 주장했습니다. 청구된 수집물에는 후보자 프로필, 개인 식별 정보, 고용주 데이터, 소스 코드, API 키, 데이터 라벨링 회사가 중앙 집중화하는 것과 정확히 같은 종류의 자료에 대한 포괄적인 인벤토리가 포함됩니다. 머코는 주장된 데이터의 진위 여부를 확인도 부정도 하지 않았으며 조사 중이라고만 밝혔습니다.

모호함 자체가 문제다. 정보가 유포될 수 있는 계약자, 고용주 및 파트너의 경우 실제로 무엇을 취했는지에 대한 불확실성으로 인해 노출을 평가하는 것이 불가능합니다.

메타가 후퇴함

상업적인 낙진은 신속했습니다. Meta는 Mercor와의 계약을 무기한 중단했으며, 이는 두 회사 간의 역사를 통해 더욱 놀라운 결정이 되었습니다. TechJuice에 따르면 Meta는 Mercor의 라이벌인 Scale AI를 인수하기 위해 143억 달러를 지출한 후에도 Mercor와 계속 협력해 왔으며 이는 Mercor의 관계를 얼마나 소중히 여겼는지 보여주는 신호입니다. 타사 도구를 통해 침해가 발생하면 이러한 연결이 끊어질 수 있다는 사실은 이러한 공급업체 관계가 얼마나 불안정해졌는지를 강조합니다.

OpenAI는 침해에 대한 자체 노출을 조사하고 있음을 확인했지만 보고 당시 Mercor 계약을 일시 중지하지 않았습니다. 다른 여러 대형 모델 제조사들이 이 스타트업과의 관계를 저울질하고 있는 것으로 알려졌지만, 더 이상의 이름은 공개적으로 확인되지 않았습니다.

소송 및 책임 질문

법적 결과도 상업적인 결과만큼 빠르게 모이고 있습니다. Mercor의 계약자 중 5명이 개인 데이터 노출 혐의로 소송을 제기했습니다. TechCrunch가 검토한 한 소송에서는 LiteLLM이 Delve를 사용하여 보안 인증을 획득했다는 이유로 LiteLLM과 AI 규정 준수 스타트업 Delve를 공동 피고로 지정했습니다. 이러한 연결은 그들이 보증하는 도구가 나중에 무기화될 때 규정 준수 공급자가 책임을 져야 하는지 여부에 대한 까다로운 질문을 제기합니다.

이러한 소송은 침해가 오픈 소스 소프트웨어를 통해 전달될 때 책임이 어디에 있는지 정의하는 데 도움이 될 수 있습니다. 이는 AI 업계가 지금까지 답변을 회피해 온 질문입니다.

업계에서 충분히 검토되지 않은 공격 표면

보안 연구원들은 더 깊은 교훈이 구조적이라고 말합니다. 이제 AI 스택은 모델 공급자와 고객 사이에 있는 신뢰할 수 있는 중개 도구, 라우터, 평가자, 규정 준수 계층 및 라벨링 플랫폼의 웹에 의존합니다. 각각은 잠재적인 관문이며 대부분은 프론티어 모델 자체보다 훨씬 덜 조사를 받습니다.

LiteLLM이 예시입니다. 하루에 수백만 번 다운로드되고 설계에 따라 자격 증명을 처리하며 지구상에서 가장 많은 자금을 지원받는 회사의 생산 환경 내에서 실행됩니다. 하지만 40분 동안의 조작 시간만으로도 이 열쇠를 해골 열쇠로 바꿀 수 있었습니다. 이 시퀀스는 전체 AI 공급망을 조사하게 했으며, 연구원들은 신뢰할 수 있는 중개 도구가 업계가 체계적으로 과소평가해 온 공격 표면을 대표한다고 경고했습니다.

다음에 무슨 일이 일어날까요?

즉각적인 질문은 Mercor가 유출 범위를 확인할 수 있는지, 더 많은 모델 제작자가 Meta를 따라 철회할 것인지, LiteLLM 및 Delve 소송이 제3자 책임에 대한 선례를 확립하는지 여부입니다. 장기적으로 이 사건은 AI 산업이 보다 성숙한 소프트웨어 부문이 이미 의존하고 있는 일종의 소프트웨어 자재 명세서 및 종속성 서명 관행을 채택해야 한다는 요구를 가속화할 가능성이 높습니다.

현재 이번 침해는 AI의 가장 위험한 취약점이 모델 내부가 아니라 모델을 연결하는 미미한 배관에 있을 수 있다는 경고로 간주됩니다.