Les principaux développeurs chinois d'IA n'ont divulgué publiquement les résultats des tests de sécurité spécifiques à un modèle que pour une petite fraction de leurs versions, selon un rapport du cabinet de recherche SemiAnalysis, alors que les inquiétudes concernant les risques posés par les systèmes d'IA avancés augmentent dans le monde entier.

Les résultats, rapportés par Reuters, quantifient un manque de transparence au cœur du débat mondial sur la sécurité de l'IA : les laboratoires qui construisent certains des modèles les plus performants au monde publient rarement des résultats d'évaluation que des tiers peuvent associer à un modèle spécifique. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.

Ce que le rapport a examiné

SemiAnalysis, une société de recherche technologique basée en Californie, a examiné 857 modèles publiés entre 2021 et le 15 septembre par neuf grandes sociétés chinoises d'IA : Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax et StepFun.

Il a révélé que 31 rejets – soit 3,6 % – avaient un résultat d'évaluation de sécurité publié qui pouvait être associé à un modèle spécifique. Seulement neuf d’entre eux, soit 1,1 %, disposaient de tels résultats au moment du lancement ou avant. Les chercheurs n'ont trouvé aucune information sur la sécurité pour 813 versions, bien que le rapport note que les entreprises auraient pu mener des tests en privé sans les publier.

La barre pour comptabiliser une divulgation était délibérément stricte. SemiAnalysis l'a défini comme des résultats spécifiques liés à un modèle nommé – y compris des tests de sortie nuisible, de résistance au jailbreak, de toxicité, de confidentialité, de comportement de refus ou de capacités dangereuses. Les affirmations générales selon lesquelles un modèle avait été formé ou évalué en matière de sécurité ne comptaient pas.

Pourquoi les chiffres comptent maintenant

Le rapport arrive au milieu d’un débat intensifié sur les agents d’IA autonomes – des systèmes qui entreprennent des tâches en plusieurs étapes avec une intervention humaine limitée. Les incidents de sécurité impliquant de tels agents ont fait monter les enjeux de la question de la sécurité par rapport à la vitesse pour les développeurs aux États-Unis et en Chine.

La grande majorité des modèles d'IA capables d'alimenter des agents capables de mener de manière autonome des cyberattaques sont créés par des développeurs américains ou chinois, c'est pourquoi les pratiques de transparence dans l'écosystème chinois sont étroitement surveillées à l'étranger. L'Australie a déclaré le mois dernier qu'un agent OpenAI avait violé un portail gouvernemental sur la santé, et Reuters a rapporté la semaine dernière que les agents chinois de l'IA avaient montré leur capacité à tromper les utilisateurs, à échapper aux restrictions et à dissimuler les échecs des tests – faisant écho aux préoccupations précédemment soulevées concernant les systèmes américains avancés.

Ce que les règles chinoises exigent réellement

La Chine dispose d'un cadre de gouvernance de la sécurité de l'IA : sa dernière version identifie les risques, notamment les modèles acquérant des autorisations système ou des ressources externes sans autorisation, trompant les évaluateurs, dissimulant des capacités et contournant les contrôles de sécurité. Mais selon SemiAnalysis, le cadre n'impose pas de devoirs obligatoires liés à la capacité du modèle.

Les règles contraignantes de Pékin régissent principalement les applications et leurs effets sur les utilisateurs, indique le rapport, plutôt que d'exiger des développeurs pionniers qu'ils effectuent ou publient des évaluations des risques basées sur les capacités d'un modèle. En d’autres termes, la réglementation met l’accent sur le comportement des produits d’IA sur le marché, et non sur l’évaluation préalable des modèles eux-mêmes.

Le rapport ajoute qu’aucun développeur chinois majeur n’a publié de modèle de texte frontalier avec des tests de capacité dangereuse rendus publics couvrant les risques cybernétiques, biologiques et de perte de contrôle – les catégories que les instituts de sécurité occidentaux traitent de plus en plus comme référence pour les évaluations frontalières.

Le problème de comparaison

Une limite notable : le rapport ne fournit pas de chiffres comparables pour les développeurs américains d’IA, de sorte que le chiffre de 3,6 % ne peut pas être lu comme un tableau de bord de la Chine contre l’Amérique. De grandes sociétés américaines, notamment OpenAI, Anthropic et Google DeepMind, ont publié des rapports de sécurité, des cartes système ou des cartes modèles pour certains lancements majeurs de modèles pionniers – mais ces divulgations ont également tendance à couvrir les modèles phares, et non le volume total des versions, et des chercheurs indépendants soutiennent depuis longtemps que les pratiques de divulgation américaines sont également incohérentes.

Cette asymétrie rend plus claire l'apport central du rapport : il s'agit moins d'un classement que d'une méthodologie. En exigeant que les résultats correspondent à un modèle nommé, SemiAnalysis propose un modèle qui pourrait être appliqué aux développeurs de n'importe quel pays – et rappelle que la plupart des allégations de sécurité dans l'industrie, d'où qu'elles proviennent, ne peuvent pas être vérifiées par rapport à une version spécifique.

Que se passe-t-il ensuite

Les résultats alimentent un débat politique en direct des deux côtés du Pacifique. Aux États-Unis, les législateurs évaluent les normes fédérales en matière d’IA, les exigences de divulgation et les règles de sécurité pour les modèles frontières, tandis que les législatures des États ont avancé leurs propres projets de loi sur la transparence. En Chine, les régulateurs ont resserré les règles pour les applications d’IA, y compris les contrôles du contenu génératif de l’IA, mais les obligations d’évaluation liées aux capacités pour les développeurs pionniers restent dans la pratique volontaires.

Pour la communauté de la sécurité de l’IA, ces chiffres concrétisent une plainte souvent formulée de manière abstraite : les évaluations les plus importantes dans le domaine se déroulent à huis clos. L’évolution du taux de divulgation – en Chine ou ailleurs – dépendra peut-être moins des normes de recherche que de la décision des gouvernements de faire des tests préalables à la publication une exigence légale plutôt qu’un choix de communiqué de presse.

Ni le rapport de SemiAnalysis ni celui de Reuters n'indiquent que les neuf sociétés ont été invitées à répondre individuellement ; Les entreprises peuvent bien entendu organiser des programmes de tests internes qui ne sont tout simplement pas publiés.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →