Les modèles d'intelligence artificielle seront bientôt suffisamment puissants pour maîtriser la biologie, présentant dans une égale mesure des avantages et des risques sérieux, a averti le scientifique en chef de l'IA de Tencent lors d'une rare apparition publique à Hong Kong samedi, ajoutant sa voix à un débat croissant sur ce qui se passe lorsque les systèmes d'IA absorbent entièrement les sciences de la vie.
"Les cybercapacités des modèles d'IA - et bientôt la biocapacité des modèles - atteindront un seuil où il est réellement possible de faire du mal", a déclaré Yao Shunyu, scientifique en chef de Tencent Holdings en IA et ancien chercheur d'OpenAI, lors d'un symposium scientifique co-organisé par l'Académie des sciences de Hong Kong et le Future Science Prize, selon le South China Morning Post. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
Un défenseur du poids ouvert appelle à la responsabilité
L'avertissement de Yao est moins remarquable par son contenu que par sa source. Il a bâti sa réputation chez OpenAI avant de rejoindre Tencent, l'une des plus grandes entreprises technologiques chinoises, et Tencent s'est positionné parmi les éditeurs les plus agressifs de modèles d'IA ouverts – des systèmes dont les paramètres sous-jacents sont rendus publics et peuvent être téléchargés, modifiés et exécutés par n'importe qui.
Cela met en évidence son message d'accompagnement : « Tous les Chinois ou toute entreprise modèle ouverte doivent être très responsables et très sérieux concernant ces problèmes de sécurité et de sûreté », a déclaré Yao, selon le SCMP.
Cette évaluation intervient alors que les systèmes d'IA de pointe sont de plus en plus appliqués à la médecine et à la biologie, où ils pourraient accélérer la découverte de nouveaux médicaments et autres traitements – un changement qui remodèle déjà l'industrie pharmaceutique chinoise, selon le rapport du SCMP. Les experts en sécurité avertissent cependant depuis longtemps que les mêmes capacités pourraient aider des acteurs malveillants à produire des armes biologiques ou à déclencher la prochaine pandémie – un risque qui devient plus difficile à contrôler lorsque des modèles performants sont publiés sous forme de logiciels ouverts que n’importe qui peut utiliser sans garde-fous.
La biologie est largement considérée parmi les experts en IA comme la prochaine frontière majeure après le codage, un domaine où les progrès rapides de l’IA ont déjà bouleversé la cybersécurité mondiale. Tout comme les cybercapacités, les capacités biologiques sont à double usage : le même modèle qui conçoit des candidats médicaments prometteurs pourrait, en principe, aider un attaquant. Il existe un véritable débat sur la question de savoir quel côté en profite le plus.
Le propre manuel de sécurité de Tencent
Les remarques de Yao avaient un poids supplémentaire car elles sont arrivées quelques jours après que sa propre entreprise ait expédié un nouveau modèle phare. Tencent a publié mercredi Hy4, qui s'est classé deuxième modèle le plus performant produit en Chine selon la société d'analyse comparative Artificial Analysis, a rapporté le SCMP.
Dans son annonce de sortie, Tencent a décrit les mesures de sécurité intégrées à Hy4. La société a déclaré avoir supprimé les capacités de cyberpiratage du modèle tout en conservant ses capacités de cyberdéfense en filtrant les données pertinentes pendant la phase de formation. Du côté biologique, Tencent a déclaré que les capacités biologiques de Hy4 restaient « bien en dessous » de son seuil de risque élevé parce que le modèle ne pouvait toujours pas transformer les connaissances biologiques fondamentales en protocoles exploitables – l'écart, en d'autres termes, entre la compréhension des manuels et les conseils opérationnels étape par étape.
Ce cadrage – mesurer si un modèle peut convertir des connaissances générales en procédures utilisables – est devenu un critère commun dans les évaluations de biosécurité des systèmes d’IA. L'affirmation de Tencent selon laquelle Hy4 ne répond pas à cette ligne est une affirmation du propre fabricant du modèle, et la validation externe de ces évaluations reste limitée dans l'ensemble du secteur.
Le timing reflète également la pression concurrentielle. Tencent a dévoilé Hy4 dans une course de poids ouverte de plus en plus passionnée entre les sociétés chinoises d'IA, DeepSeek, Z.ai et Alibaba ayant tous expédié de nouveaux modèles ces dernières semaines, selon la couverture antérieure du lancement par le SCMP. Dans un écosystème où la publication des pondérations est une nécessité concurrentielle, l'appel de Yao à des pratiques de publication « très responsables » se lit comme une tentative d'établir des normes au sein même du mouvement qui rend les examens de sécurité les plus difficiles à appliquer.
Des avertissements aux laboratoires autonomes
Ce qui rend l'apparition de Yao particulièrement intéressante, c'est que Tencent pousse simultanément l'IA plus profondément dans le laboratoire. S'adressant à une salle d'étudiants en informatique, il a présenté des projets de « laboratoires scientifiques autonomes » qui utiliseraient des systèmes d'IA pour mener des expériences complexes de bout en bout, le repliement inverse des protéines étant cité comme exemple du type de travail ciblé par l'entreprise.
Yao a fait valoir que les obstacles techniques à une IA scientifique sûre et performante tomberaient avec le temps. "Je pense que tous les changements techniques peuvent être résolus – ce n'est qu'une question de temps", a-t-il déclaré, selon le SCMP. "Je pense que le plus grand défi est sociétal et organisationnel."
Le lieu a souligné le public visé par le message : Yao s'est adressé à une salle remplie d'étudiants en informatique – la population la plus susceptible de s'appuyer sur ces modèles – lors de la Semaine du Prix de la Science du Futur 2026, qui, selon le SCMP, a attiré environ 1 000 participants.
Cette division – problèmes d’ingénierie résolubles et problèmes de gouvernance non résolus – devient progressivement la position standard des dirigeants de l’IA des deux côtés du Pacifique. Pour Tencent, il s’agit également d’une question défensive : une entreprise qui parie sur des laboratoires autonomes a tout intérêt à convaincre les régulateurs que les seuils de risque biologique peuvent être conçus, audités et respectés au grand jour.
Pour l’instant, la question à court terme est de savoir si les entreprises publiant des modèles à pondération ouverte adopteront des seuils de risque biologique mesurables avant que les capacités ne les franchissent – ou après. L'avertissement de Yao suggère que Tencent, au moins, pense que le temps est compté.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
