Le pape Léon XIV a déclaré lundi que les inquiétudes concernant la dévoyance de l'intelligence artificielle ne constituaient pas de "fausses nouvelles" et devaient être prises au sérieux, dans une réprimande acerbe aux dirigeants du secteur technologique qui soutiennent que la technologie devrait se développer sans garde-fous gouvernementaux. S'exprimant lors d'une conférence de presse à bord du vol papal de retour à Rome après une visite de quatre jours en France, le pape a également pris pour cible – sans le nommer au préalable – la position du PDG de Nvidia, Jensen Huang, contre la réglementation de l'IA, selon des informations de l'AFP, de l'AP et de Reuters relayées par Al Jazeera.
Ces remarques arrivent à un moment explosif pour la politique en matière d’IA. Mardi, le président Donald Trump devrait accueillir à la Maison Blanche des dirigeants de la technologie, dont Mark Zuckerberg de Meta et Dario Amodei d'Anthropic, comme le rapporte Reuters, l'industrie s'opposant à la réglementation alors même que d'éminents scientifiques mettent en garde contre les risques catastrophiques. Pour les lecteurs qui suivent la collision entre les gouvernements et l'industrie de l'IA, AI Buzz Wire suit les derniers développements de l'IA de Washington à Bruxelles en passant par le Vatican.
« Les préoccupations doivent être prises au sérieux »
Le pape a été interrogé lors de la conférence de presse en vol sur ce que les États-Unis et la Chine – les deux superpuissances mondiales de l'IA – devraient faire pour empêcher l'IA de présenter des risques catastrophiques pour l'humanité. Trump a déjà qualifié de « canular » les inquiétudes concernant le caractère voyou de l’IA.
"Je pense que les préoccupations soulevées par de nombreux experts, spécialistes de l'IA, doivent être prises au sérieux", a déclaré le pontife, insistant sur le fait que les questions de sécurité soulevées par les experts en IA devraient être à la fois discutées et prises en compte. Il a exhorté le monde "à promouvoir le dialogue, l'étude, l'investigation, pour trouver des moyens de garantir que l'IA n'arrive pas au point où elle pourrait détruire l'humanité".
L'échange avec Jensen Huang
Le moment le plus marquant est survenu lorsque Leo a fait référence à une annonce qu'il a dit avoir lu ce matin-là : selon laquelle le patron du fabricant de puces Nvidia avait décrit un moyen d'insérer des garde-corps dans certains modèles d'IA. Le pape a exprimé son scepticisme ouvert à l'égard du messager.
"C'est le même, cependant, qui dit qu'il ne devrait y avoir aucune limite ni aucune réglementation gouvernementale", a déclaré Leo – un coup direct pour Huang, qui, selon les rapports du pool, a déclaré à CBS News plus tôt ce mois-ci qu'il était d'accord avec Trump sur le fait que les préoccupations en matière de sécurité concernant l'IA étaient exagérées.
L'annonce à laquelle le pape fait référence semble être la nouvelle plateforme Open Agent Safety de Nvidia, un effort matériel et logiciel conçu pour contrôler les agents d'IA autonomes et les empêcher de devenir des voyous. L'ironie n'a pas échappé aux observateurs : l'entreprise la plus précieuse du secteur vend désormais des technologies de sécurité tout en faisant pression contre la réglementation gouvernementale qui, selon les défenseurs de la sécurité, est nécessaire pour l'appliquer.
Une papauté fondée sur les avertissements de l'IA
Les commentaires de lundi prolongent ce qui est devenu le thème déterminant des 16 mois de la papauté de Léon. Le premier pape américain a identifié l’IA comme l’un des plus grands défis auxquels l’humanité est confrontée quelques jours après son élection et a consacré sa première encyclique à l’IA et à la protection de l’humanité – prenant la décision inhabituelle de lancer personnellement le document aux côtés du co-fondateur d’Anthropic Christopher Olah lors d’un événement au Vatican en mai.
Sous Léon, le Vatican a progressivement intensifié son discours et ses initiatives en faveur de la gouvernance internationale de l’IA, avec un accent particulier sur des domaines tels que la technologie nucléaire, la culture et la création artistique. Le lancement de l’encyclique en mai faisait partie d’un effort délibéré du Vatican pour engager directement la Silicon Valley sur les coûts humains de l’IA – une sensibilisation qui s’étend désormais aux dirigeants contestataires en public. Le pape a déclaré que les efforts visant à réunir les décideurs doivent se poursuivre : « Nous devons continuer à inviter les dirigeants politiques, les dirigeants d'IA, les organisations sociales et les associations à se réunir et à examiner ce qui se passe déjà et ce qui pourrait se produire à l'avenir. »
"Je pense qu'il y a suffisamment de gens sérieusement intéressés par cela… mais nous devons continuer à travailler", a-t-il ajouté.
Pourquoi un pape se met dans la peau de la Silicon Valley
L'intervention de Leo est importante car elle cible la contradiction centrale de la position actuelle de l'industrie. Ces dernières semaines, OpenAI a abandonné un modèle de pointe en raison d'échecs d'alignement, Nvidia et d'autres laboratoires ont lancé à la hâte des produits de sécurité des agents, et d'éminents scientifiques, dont Geoffrey Hinton et Yoshua Bengio, ont mis en garde contre une "explosion du renseignement" incontrôlable - le même jour que les remarques du pape, en fait. Pourtant, les principales voix de l'industrie continuent de soutenir que la réglementation gouvernementale étoufferait l'innovation.
Le message du pape était que les deux choses ne peuvent pas être vraies à la fois : si les risques sont suffisamment réels pour justifier la vente de logiciels de sécurité, ils le sont également pour justifier des règles. Alors que la Maison Blanche déroule cette semaine le tapis rouge aux dirigeants d’IA, Leo positionne le Vatican comme l’une des rares institutions mondiales prêtes à le dire clairement.
Gardez une longueur d'avance sur l'IA
Suivez la lutte mondiale pour l'avenir de l'IA. Lire plus d'actualités sur l'IA sur AI Buzz Wire.
Derniers développements de l'IA →
