NSA, CISA, FBI, 산업 규모 증류 자문에 중국 AI 기업 6곳 선정

NSA, CISA 및 FBI 공동 자문에 따르면 DeepSeek, Alibaba, Moonshot AI 및 기타 중국 기반 회사 4곳은 산업 규모의 증류 캠페인을 통해 미국 개척 모델에서 수십억 개의 토큰을 추출했습니다.

국가안보국(National Security Agency), 사이버보안 및 인프라 보안국(Cybersecurity and Infrastructure Security Agency), FBI는 화요일 발표된 권고문에서 중국에 본사를 둔 6개 AI 회사가 미국 프론티어 모델에 대해 산업 규모의 증류 캠페인을 수행했다고 공동으로 비난했습니다. 기관들은 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun 및 Z.AI가 적어도 2024년 후반부터 Claude, GPT, Gemini 및 Grok의 변종을 포함한 미국 개척 AI 모델로부터 수백만 건의 교환 및 요청을 통해 수십억 개의 토큰을 추출했다고 밝혔습니다. 자문에 따르면 이 활동은 중국 정부가 인지하고 있었을 가능성이 높습니다.

AA26-251A로 지정된 권고는 증류가 AI 연구에서 합법적이고 널리 사용되는 기술이라는 점에 주의를 기울였습니다. 이 기술에서는 더 작은 모델이 더 큰 모델의 출력을 재현하도록 훈련됩니다. 세 기관이 설명하는 내용은 종류가 다릅니다. 즉, 산업 규모에서 수행되는 공격적이고 악의적이며 표적화된 증류로, 문서에서 표적 회사의 AI 개발 전략의 핵심(단순히 보충이 아닌)이라고 부르는 것을 형성합니다. 최신 AI 정책 뉴스를 보려면 AI Buzz Wire의 워싱턴 규제 안건에 대한 지속적인 보도를 따르십시오. 최신 AI 정책 소식

누가 지명되었고, 무엇을 가져갔다고 전해지는가

권고는 특정 캠페인을 특정 회사에 귀속시킵니다. DeepSeek은 R1 및 V3 모델을 훈련하는 데 사용된 추론 기능, 전문화된 최적화 및 도메인별 기능을 목표로 최소 2024년부터 조직적인 증류 캠페인을 실행해 온 것으로 알려졌습니다. Alibaba는 세계에서 가장 많이 다운로드된 개방형 모델 제품군 중 하나가 된 Qwen 모델 제품군을 개선하기 위해 산업 규모의 증류를 활용했다는 비난을 받았습니다.

Moonshot AI, MiniMax, StepFun 및 Z.AI도 마찬가지로 미국 모델의 악의적인 지식 증류에 관여한 혐의로 기소되었지만 자문에서는 4개 모델에 대한 회사별 세부 정보를 더 적게 공개했습니다. 6개 회사 모두 현재 벤치마크와 가격 면에서 미국 개척 시스템과 직접 경쟁하는 모델을 구축했습니다.

캠페인의 작동 방식

문서에 따르면 해당 회사는 미국 회사의 이용 약관을 위반하면서 무단 액세스를 얻기 위해 여러 경로를 통해 증류 요청을 라우팅했습니다. 여기에는 모델의 기본 애플리케이션 프로그래밍 인터페이스, 원격 클라우드 공급자, 탐지를 피하기 위해 사용자 메타데이터를 자동으로 난독화하는 타사 수집기가 포함되었습니다.

또한 기관은 미국 공급자의 지리적 제한을 우회하고 서비스 약관을 위반하며 안전 장치를 회피하고 추적성을 약화시키는 데 사용되는 "환승 스테이션"으로 알려진 프록시의 회색 시장에 대해 설명합니다. 이 규모의 캠페인 중에 비용을 낮추기 위해 회사는 프리미엄 구독을 대량 조달하여 개발자 팀 전체에 공유했습니다.

보다 발전된 전술에는 일련의 사고 추론 추출, 차단 시도 중 액세스 경로 간의 자동 장애 조치, 공급자가 방어 대책을 배포한 시기를 감지하도록 설계된 정교한 품질 평가 프레임워크가 포함되었습니다. 기관들은 산업 규모의 증류를 수행하는 기업이 프론티어 모델을 훈련할 때 AI 개발 일정이 상당히 단축되고 재정 지출이 감소한다는 결과를 얻었습니다.

미국 AI 기업을 위한 세 가지 권장사항

이번 권고는 미국 AI 제공업체에 대한 세 가지 즉각적인 조치로 마무리됩니다. 첫째, 포괄적인 탐지 및 완화를 구현합니다. 비정상적이고 악의적인 프롬프트, 계정, 네트워크 및 동작을 모니터링하고 구독 대 사용량 비율, 새 계정의 즉각적인 최대 사용량 및 엔터프라이즈 규모 처리량 패턴을 관찰합니다.

둘째, 타겟 대응 변경 사항을 배포합니다. 기관에서는 캠페인의 결과를 약화시키기 위해 의심되는 악의적인 증류 시도에 대한 대응을 미묘하게 변경할 것을 권장합니다. 이는 증류업체에 알리지 않고 도난당한 결과물의 가치를 저하시키는 대책의 한 형태입니다.

셋째, 모델 공급자, 클라우드 플랫폼 및 API 수집자 간의 활동을 상호 연결하기 위해 조직 간 인텔리전스 공유를 설정합니다. 그러면 단일 지점 탐지를 피하기 위해 의도적으로 여러 공급자에 분산된 캠페인이 단일 작업으로 인식될 수 있습니다.

미중 AI 분쟁의 새로운 국면

이 간행물은 중국 AI 개발에 대한 워싱턴의 수사가 더욱 확대되는 가운데 나온 것입니다. 로이터 통신은 미국이 중국 AI 기업들이 미국 AI 기술을 악의적으로 복제했다고 비난했다고 보도했으며, 이 권고는 화요일 사이버스쿠프(CyberScoop), 넥스트고브(Nextgov) 및 정보 커뮤니티를 따르는 기타 매체에 의해 다루어졌습니다. 이 문서는 미국의 기술 리더십을 위협하는 독점 기능과 역량을 체계적으로 추출하는 활동을 설명하면서 명시적으로 전략적인 용어로 이해 관계를 구성합니다.

지명된 6개 회사의 경우 자문은 서구 고객에게 서비스를 제공하는 데 따른 평판 및 상업적 비용을 높입니다. 특히 Alibaba와 DeepSeek는 중국 이외의 지역에서 개발자 생태계를 조성했으며, 이제 두 회사 모두 추가 규정 준수 질문이 포함된 기업 조달 대화에 등장했습니다. 6개 회사 중 어느 회사도 자문의 권고 사항을 직접적으로 따르지는 않습니다. 이 문서는 미국 AI 회사를 대상으로 합니다. 그러나 그 효과는 미국 연구소가 2년 동안 개인적으로 주장한 것, 즉 해당 모델이 대규모로 체계적으로 복사되었다는 것을 공식화하는 것입니다.

이 권고는 또한 합법적인 학습이 어디서 끝나고 도난이 시작되는지에 대한 AI 업계 내부의 해결되지 않은 논쟁의 한가운데에 있습니다. 공개 가중치 모델, 출판된 연구 및 공개 결과를 추출하는 것이 표준 관행입니다. 권고의 작성자는 속임수, 액세스 제어 회피 및 사용 약관 위반을 통해 제한된 독점 기능을 추출하는 데 선을 긋습니다. 기술적 대책, 계약법 또는 수출 정책을 통해 해당 라인이 어떻게 시행되는지는 이제 업계와 규제 기관이 대답해야 할 문제입니다.