La National Security Agency, la Cybersecurity and Infrastructure Security Agency et le FBI ont accusé conjointement six sociétés d’IA basées en Chine de mener des campagnes de distillation à l’échelle industrielle contre les modèles pionniers américains, dans un avis publié mardi. Les agences affirment que DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun et Z.AI ont extrait des milliards de jetons à travers des millions d'échanges et de demandes de modèles d'IA frontaliers américains – y compris des variantes de Claude, GPT, Gemini et Grok – depuis au moins fin 2024, une activité qui, selon l'avis, s'est probablement produite avec la connaissance du gouvernement chinois.

L'avis, désigné AA26-251A, prend soin de noter que la distillation est une technique légitime et largement utilisée dans la recherche sur l'IA, dans laquelle un modèle plus petit est formé pour reproduire les résultats d'un modèle plus grand. Ce que les trois agences décrivent est de nature différente : une distillation agressive, malveillante et ciblée menée à l'échelle industrielle, formant ce que le document appelle le cœur – et non seulement un complément – ​​de la stratégie de développement de l'IA des entreprises ciblées. Pour connaître les dernières nouvelles en matière de politique en matière d'IA, suivez la couverture continue par AI Buzz Wire de l'agenda réglementaire de Washington. dernières nouvelles sur la politique en matière d'IA

Qui est nommé et ce qu'ils auraient pris

L'avis attribue des campagnes spécifiques à des entreprises spécifiques. DeepSeek aurait mené des campagnes de distillation organisées depuis au moins 2024 ciblant les capacités de raisonnement, les optimisations spécialisées et les fonctions spécifiques au domaine qui ont été utilisées pour entraîner ses modèles R1 et V3. Alibaba est accusé d'exploiter la distillation à l'échelle industrielle pour améliorer sa famille de modèles Qwen, qui est devenue l'une des familles de modèles à poids ouvert les plus téléchargées au monde.

Moonshot AI, MiniMax, StepFun et Z.AI sont également accusés de s'être livrés à une distillation malveillante des connaissances des modèles américains, bien que l'avis publie moins de détails spécifiques à l'entreprise pour les quatre. Les six sociétés ont construit des modèles qui concurrencent désormais directement les systèmes frontaliers américains en termes de références et de prix.

Comment les campagnes auraient fonctionné

Selon le document, les sociétés ont acheminé les demandes de distillation par plusieurs voies pour obtenir un accès non autorisé tout en violant les conditions d'utilisation des sociétés américaines. Il s'agit notamment des interfaces de programmation d'applications natives des modèles, des fournisseurs de cloud distants et des agrégateurs tiers qui masquent automatiquement les métadonnées des utilisateurs pour éviter toute détection.

Les agences décrivent également un marché gris de proxys appelés « stations de transfert » utilisés pour contourner les restrictions géographiques des fournisseurs américains, enfreindre les conditions de service, échapper aux garanties et compromettre la traçabilité. Pour réduire les coûts lors de campagnes de cette ampleur, l'avis indique que les entreprises se sont engagées dans l'achat groupé d'abonnements premium qui ont ensuite été partagés entre les équipes de développeurs.

Des tactiques plus avancées comprenaient l'extraction de raisonnements en chaîne de pensée, le basculement automatisé entre les voies d'accès lors des tentatives de blocage et des cadres d'évaluation de la qualité sophistiqués conçus pour détecter lorsqu'un fournisseur avait déployé des contre-mesures défensives. Le résultat, écrivent les agences, est que les entreprises menant une distillation à l’échelle industrielle voient des délais de développement de l’IA nettement plus courts et des dépenses financières réduites lors de la formation d’un modèle pionnier.

Trois recommandations pour les entreprises américaines d'IA

L’avis se termine par trois actions immédiates pour les fournisseurs américains d’IA. Tout d’abord, mettez en œuvre une détection et une atténuation complètes : surveillez les invites, les comptes, les réseaux et les comportements anormaux et malveillants, et surveillez les ratios abonnement/utilisation, l’utilisation maximale immédiate des nouveaux comptes et les modèles de débit à l’échelle de l’entreprise.

Deuxièmement, déployez des changements de réponse ciblés. Les agences recommandent de modifier subtilement les réponses apportées aux tentatives de distillation malveillantes présumées afin d'atténuer les bénéfices des campagnes – une forme de contre-mesure qui dégrade la valeur des produits volés sans alerter le distillateur.

Troisièmement, établissez un partage de renseignements entre les organisations pour corréler les activités entre les fournisseurs de modèles, les plates-formes cloud et les agrégateurs d'API, afin que les campagnes délibérément distribuées entre plusieurs fournisseurs pour éviter une détection en un seul point puissent être reconnues comme une opération unique.

Une nouvelle phase dans le différend américano-chinois sur l’IA

La publication intervient dans un contexte d’escalade plus large de la rhétorique de Washington sur le développement de l’IA chinoise. Reuters a rapporté que les États-Unis ont accusé les sociétés chinoises d'IA de copie malveillante de la technologie américaine d'IA, et l'avis a été couvert mardi par CyberScoop, Nextgov et d'autres médias qui suivent la communauté du renseignement. Le document présente les enjeux en termes explicitement stratégiques, décrivant l’activité comme une extraction systématique de fonctionnalités et de capacités propriétaires qui menacent le leadership technologique américain.

Pour les six sociétés citées, l’avis augmente le coût de réputation et commercial du service aux clients occidentaux. Alibaba et DeepSeek en particulier ont cultivé des écosystèmes de développeurs en dehors de la Chine, et tous deux sont apparus dans des conversations sur les achats d'entreprises qui soulèveraient désormais une question de conformité supplémentaire. Aucune des six sociétés n'est directement soumise aux recommandations de l'avis – le document s'adresse aux sociétés américaines d'IA – mais son effet est de formaliser ce que les laboratoires américains prétendent en privé depuis deux ans : que leurs modèles ont été systématiquement copiés à grande échelle.

L’avis se situe également au milieu d’un débat non résolu au sein de l’industrie de l’IA sur la question de savoir où se termine l’apprentissage légitime et où commence le vol. La distillation à partir de modèles à poids ouvert, de recherches publiées et de résultats publics est une pratique courante ; les auteurs de l'avis fixent la limite à l'extraction de fonctionnalités propriétaires restreintes par la tromperie, l'évasion des contrôles d'accès et la violation des conditions d'utilisation. Comment faire respecter cette ligne – par le biais de contre-mesures techniques, du droit des contrats ou de la politique d’exportation – est désormais la question à laquelle l’industrie et ses régulateurs devront répondre.

Gardez une longueur d'avance sur l'IA

Suivez les derniers développements de l’IA et les dernières nouvelles en matière d’intelligence artificielle alors que la bataille politique sur la sécurité des modèles s’intensifie.

Lire plus d'actualités sur l'IA →