Bill Gates a appelé les législateurs fédéraux et les forces de l'ordre des États-Unis à réglementer le développement de l'intelligence artificielle, affirmant dans une interview télévisée diffusée dimanche que la technologie laissée sans contrôle pourrait causer « un milliard de morts » – et insistant sur le fait que « personne ne pense que l'autorégulation est suffisante ».

Le co-fondateur de Microsoft a fait ces remarques dans une interview avec Kristen Welker, animatrice de l'émission Meet the Press sur NBC. "Il faut que les forces de l'ordre et les politiciens participent au débat sur ce à quoi ressemblent les garanties et la surveillance", a déclaré Gates, selon le Guardian. "Et cela doit être une chose obligatoire." Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.

Un avertissement concernant l'IA militarisée

Le langage le plus cru du philanthrope milliardaire est venu lorsqu’il a décrit ce qui pourrait arriver si les outils avancés d’IA se retrouvaient entre de mauvaises mains. L’IA utilisée de manière malveillante, a-t-il déclaré, serait « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts ».

"Il n'y a jamais eu d'arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les derniers outils d'IA", a ajouté Gates. Ses commentaires font écho aux avertissements d’un cercle croissant de personnalités technologiques et politiques qui craignent que les systèmes avancés puissent accélérer des résultats catastrophiques, notamment par le biais des armes biologiques et des conflits nucléaires.

Gates a présenté la réglementation comme un coût gérable plutôt que comme un frein au progrès. "Cela entraînera un léger surcoût pour l'industrie, mais pas un ralentissement dramatique de ce qu'elle fait", a-t-il déclaré.

Dans le cadre d'une campagne soutenue

L’entretien n’est pas un avertissement isolé. Cela fait suite à un essai d’environ 6 000 mots que Gates a publié fin août dans lequel il exposait ses préoccupations concernant l’IA et les risques potentiellement mortels qu’il estime qu’elle représente pour l’humanité à grande échelle. De nombreux observateurs ont noté que la conversation Meet the Press représente une continuation de cet argument, présentée cette fois-ci au grand public du dimanche matin.

Gates n’est pas le seul parmi les leaders technologiques à appeler à un ralentissement du développement de l’IA. Sam Altman d'OpenAI et Elon Musk se sont joints à lui pour exhorter l'industrie à procéder avec plus de prudence, alors même que leurs entreprises s'efforcent de proposer des modèles plus performants.

Pression interne sur Microsoft

L'intervention de Gates intervient alors que son ancienne entreprise est confrontée à ses propres controverses en matière d'IA. Les employés et militants de Microsoft ont organisé une campagne visant à amener l'entreprise à rompre ses liens avec l'armée israélienne, qui aurait utilisé des outils d'IA dans le conflit à Gaza, selon un essai du Guardian publié vendredi par Mohamed Hussein et Granate Kim du groupe No Azure for Apartheid.

Les auteurs de l'essai ont également averti que des systèmes basés sur l'IA sont déployés aux États-Unis même, soulignant l'utilisation par le ministère de la Sécurité intérieure du cloud Azure de Microsoft pour soutenir la surveillance, les arrestations et les expulsions massives d'immigrants.

L'écart réglementaire

L’appel de Gates tombe dans un vide politique. Les États-Unis ne disposent toujours pas d’un cadre fédéral global régissant le développement ou le déploiement de systèmes d’IA avancés, alors même que les laboratoires frontaliers envoient des agents de plus en plus autonomes et que les gouvernements du monde entier se démènent pour suivre le rythme. Au Congrès, des propositions concurrentes sont bloquées sur des questions d'innovation, de responsabilité et d'application, laissant les agences appliquer des autorités disparates à une technologie qui évolue plus rapidement que le processus d'élaboration des règles.

Ce qui distingue l'argument de Gates, c'est son insistance sur le fait que la surveillance soit obligatoire plutôt que volontaire. En affirmant que « l’autoréglementation ne suffit pas », il remet directement en question la position dominante des laboratoires eux-mêmes, dont la plupart ont privilégié les engagements internes en matière de sécurité, les évaluations volontaires et les organismes industriels plutôt qu’une législation contraignante.

Sa formulation – selon laquelle la conformité équivaudrait à « un peu de frais généraux » – est également remarquable venant de quelqu'un dont la fortune a été bâtie dans l'industrie du logiciel. Cela va à l’encontre de l’affirmation commune de l’industrie selon laquelle une réglementation significative gèlerait nécessairement le type de progrès rapide qui a défini les quatre dernières années de développement de l’IA.

Une note plus légère sur l'utilisation personnelle de l'IA

L’entretien n’était pas uniformément sombre. Lorsque Welker a demandé si Gates évitait l'IA dans sa propre vie, il a répondu en riant : "Eh bien, je ne l'utilise pas pour mes relations personnelles. Je ne me dis pas : 'Hé, est-ce que tu m'aimes bien ? Hé, je suis un gars sympa ?"

"Donc, je n'ai jamais emprunté cette voie, parce que j'ai de la chance en termes de famille, d'amis et tout le reste", a-t-il déclaré. "Je ne socialise pas avec l'IA. Elle sait que je suis une personne très sérieuse."

Que se passe-t-il ensuite

La question reste ouverte de savoir si l’avertissement de Gates fait évoluer la législation. Mais le fait que l'un des technologues les plus éminents au monde exige publiquement que les politiciens et les forces de l'ordre jouent un rôle formel dans la surveillance de l'IA ajoute du poids à un débat qui se joue de plus en plus dans les campagnes électorales, les tribunaux et les négociations internationales.

Alors que les sondages montrent l’inquiétude du public face à l’augmentation de l’IA et que les incidents impliquant des agents autonomes font la une des journaux, la pression s’accentue sur les législateurs pour qu’ils traduisent les inquiétudes générales en règles exécutoires. Le message que Gates leur a adressé était simple : l'industrie ne se contrôlera pas elle-même, et le coût d'agir est bien inférieur au risque de ne pas le faire.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →