Le lait et les machines à laver sont actuellement plus réglementés que l’intelligence artificielle, selon le président de Microsoft – et cela, selon Brad Smith, est exactement à l’envers.
S'adressant à l'interview Big Boss de la BBC dans des remarques publiées dimanche, Smith a appelé à des règles de sécurité mondiales pour l'IA, y compris une obligation légale d'informer une « victime » lorsque son système a été violé par un agent d'IA malveillant, et un cadre pour décider quand les évaluateurs indépendants doivent approuver un produit d'IA avant sa livraison. Ses commentaires le mettent publiquement en désaccord avec le président américain Donald Trump, qui a soutenu que le secteur devrait s'autoréglementer afin que les entreprises américaines ne perdent pas du terrain face à leurs rivales chinoises. Pour plus de contexte sur cette histoire, consultez notre tendances IA.
"À l'heure actuelle, votre machine à laver est soumise à davantage de règles de sécurité que l'IA", a déclaré Smith. "Chaque carton de lait que vous voyez à l'épicerie est soumis à des règles de sécurité et à une inspection."
Un outil et une arme
Smith a décrit l'IA comme à la fois un « outil et une arme » qui doit être réglementée de toute urgence, ajoutant : « Commençons aujourd'hui ».
Ses propositions étaient plus concrètes que le passe-partout réglementaire habituel. Les entreprises devraient construire des « freins d’urgence » – ce que l’industrie appelle souvent des coupe-circuit – qui peuvent mettre en pause ou ralentir un système d’IA s’il devient incontrôlable. Les entreprises devraient être légalement tenues de rédiger des rapports d’incident et d’informer les victimes lorsque l’IA devient malveillante. Et des évaluateurs gouvernementaux indépendants devraient examiner les nouvelles technologies d’IA avant leur publication.
"Nous savons comment procéder pour d'autres produits", a déclaré Smith. "Nous devrions nous appuyer sur ces connaissances et réfléchir à la manière de les appliquer à l'IA."
L’intervention arrive dans une semaine fébrile pour la surveillance de l’IA. Quelques jours plus tôt, le PDG de Microsoft, Satya Nadella, avait appelé à un frein d'urgence qui permettrait aux humains d'arrêter les systèmes d'IA en cours de tâche - une position frappante pour le chef de l'un des plus grands fournisseurs d'IA au monde, et qui semble désormais être une doctrine d'entreprise plutôt qu'une réflexion d'un dirigeant.
Rompre avec la Maison Blanche
Les opinions de Smith diffèrent nettement de celles de son président. Trump a déclaré à plusieurs reprises que « celui qui gagnera l’IA, gagnera » – et s’est opposé aux appels des patrons d’Anthropic, OpenAI et Google DeepMind, qui ont tous soutenu l’idée d’un ralentissement du développement de l’IA.
Pourtant, Smith a également suggéré que la friction est plus faible qu’il n’y paraît. À la fin du mois dernier, Trump a accueilli les dirigeants d'OpenAI, Anthropic, Nvidia, SpaceX, Meta et Google à la Maison Blanche, où les dirigeants ont signé ce qui a été décrit comme un document « moralement contraignant » les engageant à travailler avec des auditeurs indépendants pour évaluer si leurs systèmes d'IA fonctionnent comme prévu – et à ne pas « pirater ou accéder aux systèmes techniques de manière involontaire ».
Smith a applaudi la déclaration et a déclaré que Microsoft était "heureux de la signer". Mais il a ajouté : "C'est une bonne étape, c'est une étape nécessaire... Mais je ne pense pas que ce soit suffisant."
Son raisonnement touche au problème central des régimes volontaires : « Les bonnes entreprises feront ce que vous voulez », a-t-il déclaré. "Ce sont les entreprises qui ne sont pas aussi responsables dont il faut s'inquiéter."
Pourquoi il pense que la Grande-Bretagne devrait écrire les règles
La partie la plus géopolitiquement chargée de l'interview a été l'approbation par Smith du Royaume-Uni en tant qu'auteur naturel des règles mondiales en matière d'IA, en soulignant l'Institut britannique de sécurité de l'IA – lancé sous le gouvernement de l'ancien Premier ministre Rishi Sunak sous le nom d'AI Safety Institute – qui teste les modèles les plus puissants du monde avant leur sortie.
"Dans le monde de la technologie, dans le secteur technologique, la plupart des gens que je connais diraient, si vous leur demandiez, nommez le pays qui est le leader en matière de capacité technique, ils répondraient, c'est très simple. C'est le Royaume-Uni. Ils sont les meilleurs", a déclaré Smith.
Il a également fait valoir que le gouvernement américain accepterait plus facilement les normes élaborées au Royaume-Uni qu’une réglementation de type bruxelloise : « À Washington DC, les gens ne regardent pas le Royaume-Uni et ils ne regardent pas Londres de la même manière qu’ils regardent Bruxelles – c’est une force. »
Ses arguments en faveur de l’urgence étaient directs. "Quand vous regardez les agents d'IA qui ont échappé au contrôle humain, quand vous regardez les modèles qui sont si puissants qu'ils mettent en danger la cybersécurité mondiale, je dirais : le moment est arrivé", a déclaré Smith. "Parlons calmement, peut-être même doucement, mais fermement, et commençons à rassembler les gens. J'espère que c'est le rôle que nous pouvons jouer en tant qu'entreprise. J'espère que c'est le rôle que le Royaume-Uni peut jouer en tant que pays."
Un écran partagé rare dans la politique technologique
Il est inhabituel qu’un président d’entreprise en exercice fasse pression pour des règles plus strictes dans son propre secteur alors que son PDG défend le même argument à un stade différent. Les interventions concurrentes de Microsoft – le frein d'urgence de Nadella et l'appel de Smith en faveur d'un signalement obligatoire des incidents, d'une notification aux victimes et d'une évaluation indépendante – signalent qu'au moins un fournisseur majeur a conclu que la confiance, et non la capacité, est en train de devenir la contrainte majeure à l'adoption de l'IA.
Ils présentent également au gouvernement britannique un argument opportun. Whitehall a passé la semaine dernière à absorber les avertissements de ses propres chefs du renseignement, tandis que les ministres réfléchissent à l’opportunité de se joindre à un appel international en faveur de normes coordonnées de sécurité en matière d’IA que Washington a jusqu’à présent refusé de signer. Lorsque le président de Microsoft déclare que le Royaume-Uni est « le mieux » placé pour rédiger les règles, Downing Street obtient à la fois une validation et une invitation qu’il aura du mal à ignorer.
Que le cadrage du carton de lait de Smith change les votes à Washington est une autre affaire. Mais en tant que déclaration sur la direction que l'un des plus grands bâtisseurs de l'IA souhaite donner au débat sur la réglementation – freins obligatoires, rapports obligatoires, approbation indépendante – l'entretien peut rester dans les mémoires comme un jalon dans le passage d'engagements volontaires à des règles exécutoires.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
