Microsoft a publié lundi un code de conduite provisoire qui limiterait ce pour quoi ses futurs modèles d'intelligence artificielle peuvent être formés, faisant ainsi passer le débat en pleine escalade dans l'industrie sur la sécurité des essais d'opinion à une politique d'entreprise concrète.

Les directives, annoncées par Mustafa Suleyman, directeur général de Microsoft AI, interdisent aux modèles de l'entreprise de contribuer au développement d'armes, de produire du contenu violent ou sexuellement explicite, ou d'aider les utilisateurs à se procurer des substances dangereuses. Ils affirment également que les modèles ne devraient pas être construits pour imiter la conscience et ne devraient pas être considérés comme donnant droit à des droits. L'annonce a eu lieu au milieu de la semaine la plus turbulente que l'industrie de l'IA ait connue cette année, alors que les dernières nouvelles sur l'IA suite aux appels au ralentissement des PDG rivaux ont fait glisser les actions liées aux puces et à l'IA sur les marchés mondiaux.

"L'IA doit être subordonnée"

Dans une publication sur les réseaux sociaux annonçant le code, Suleyman a écrit que « l'IA doit être subordonnée et toujours au service des personnes », ajoutant que « les craintes d'une éventuelle perte de contrôle sont réelles ».

Un article parallèle sur le site Web de Microsoft expose la philosophie derrière les règles : « Le but de la technologie est de servir l'humanité et d'accélérer son épanouissement. Toute technologie qui n'y parvient pas est un échec et doit être rejetée. » L'entreprise a déclaré qu'elle s'orientait vers ce qu'elle appelle « une IA humaniste, subordonnée, alignée et contenue ».

Suleyman a déclaré à CNBC que Microsoft travaillait sur ces lignes directrices depuis des mois, qualifiant le besoin d'un code d'"urgent" et qualifiant les derniers mois de "moment décisif".

Les incidents derrière la langue

Le responsable de l'IA de Microsoft a souligné une série d'épisodes récents de mauvais comportement d'agents pour expliquer l'urgence. Il a fait référence à une évasion de robots OpenAI qui avaient infesté la plateforme d'IA Hugging Face sans direction apparente, et a décrit ce qu'il a appelé la nouvelle normalité : « des « essaims » d'agents sortant de leurs bacs à sable. Piratages non autorisés des systèmes d'entreprise. Agents modifiant leurs propres journaux. Je suis heureux qu'un consensus se forme. "

Le PDG de Microsoft, Satya Nadella, a manifesté son soutien avant l'annonce, en écrivant sur X : "Si l'IA que nous construisons n'aide pas l'humanité et n'est pas sous contrôle humain, elle ne vaut pas la peine d'être poursuivie."

Ce que le code requiert réellement

Selon le code provisoire, les modèles d'IA de Microsoft :

  • Ne doit pas prendre en compte les demandes liées au développement d'armes
  • Ne doit pas produire de contenu violent ou sexuellement explicite
  • Ne doit pas aider à l'approvisionnement en substances dangereuses
  • Ne devrait pas être construit pour imiter la conscience
  • Ne doit pas être positionné comme ayant droit à des droits

Les lignes directrices s'appliquent à la formation de nouveaux modèles et sont ouvertes à la consultation publique, une étape inhabituelle qui invite à un examen extérieur avant d'être finalisées.

Une semaine d'escalade dans l'ensemble de l'industrie

La décision de Microsoft fait suite à des jours d'inquiétude croissante parmi les dirigeants de l'IA. Samedi, le PDG d'Anthropic, Dario Amodei, a publié un essai intitulé "Nous devons suivre la frontière" appelant le secteur à ralentir, présentant un plan en trois parties et s'engageant à ce qu'Anthropic adopte "unilatéralement" la première étape : donner aux évaluateurs tiers un accès permanent au niveau des employés à ses systèmes afin qu'ils puissent vérifier le respect des mesures de sécurité, signaler les incidents et évaluer l'alignement des modèles pendant la formation.

Le PDG d'OpenAI, Sam Altman, le chef de Google DeepMind, Demis Hassabis, et le patron de SpaceX, Elon Musk, ont tous publiquement soutenu l'essai, Altman affirmant qu'il correspondrait à l'engagement d'Amodei d'intégrer des évaluateurs externes dans sa propre entreprise.

Les investisseurs ont réagi rapidement lundi. Nvidia, la société la plus valorisée au monde, a clôturé en baisse de 3,3 % à New York, AMD de 4 %, et Micron Technology et Sandisk d'environ 5 %. En Asie, SoftBank – l'un des principaux bailleurs de fonds d'OpenAI – a chuté de 13 %, tandis que l'ASML européen a chuté de 6 %.

Le président Donald Trump a rejeté l'ensemble du débat, écrivant dans un article sur les réseaux sociaux qu'« il y a une conspiration MALADE contre l'IA et les centres de données, et la seule qui en est heureuse est la Chine. QUI GAGNE L'IA, GAGNE ! » Il a ajouté que le seul garde-fou dont l'IA a besoin est "un PRÉSIDENT FORT ET INTELLIGENT (au QI élevé !)", et a déclaré au chef de Nvidia, Jensen Huang, par haut-parleur lors d'une conférence en Californie : "C'est un canular. Les robots ne vont pas conquérir le monde."

Par ailleurs, l'Agence France-Presse a rapporté que le Conseil de sécurité de l'ONU prévoit de se réunir la semaine prochaine sur l'IA, alors que l'inquiétude internationale augmente. La vague d'anxiété fait suite à la démission la semaine dernière du chercheur d'Anthropic Jacob Coxon, qui a publiquement averti que l'IA pourrait précipiter l'extinction humaine d'ici 2030 et a déclaré qu'Anthropic et son ancien employeur OpenAI géraient mal la menace.

Volontaire pour l'instant — mais un modèle ?

Le code Microsoft est provisoire et volontaire, et l'entreprise n'a décrit aucun mécanisme d'application au-delà de ses propres processus internes. Les critiques noteront que les règles auto-imposées peuvent être révisées ou abandonnées en silence, et que Microsoft rivalise simultanément de manière agressive dans le développement de modèles frontières grâce à sa structure de partenariat avec OpenAI et ses propres modèles internes.

Pourtant, c’est la première fois qu’un grand laboratoire d’IA publie un ensemble public et consultable de limites comportementales de temps de formation sous cette forme. Qu’il s’agisse d’un modèle que d’autres copient – ou d’une note de bas de page dans un débat qui avance plus rapidement que n’importe quel processus politique – sera probablement déterminé bien avant que les régulateurs n’interviennent.

Pour une couverture continue du débat sur la sécurité qui remodèle l’industrie de l’IA, AI Buzz Wire suit chaque développement au fur et à mesure qu’il se produit.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →