Le pape Léon XIV a déclaré lors d'une réunion au Vatican de scientifiques et d'experts en IA que les systèmes d'intelligence artificielle sont "des outils, pas des personnes", mettant en garde contre l'octroi de droits légaux aux agents d'IA et exhortant les gouvernements réunis à Genève le mois prochain à interdire les armes mortelles autonomes.
Le discours a été prononcé devant les participants de « L'avenir de l'IA : un dialogue entre le Vatican et le monde scientifique sur les développements et les applications des technologies intelligentes », une réunion organisée conjointement par l'Académie pontificale pour la vie et l'Institut du futur de la vie. Le Pape a déclaré que les participants de différents pays partagent "un certain sentiment de malaise concernant le développement de l'intelligence artificielle. Nous reconnaissons la direction que nous devrions prendre, mais on n'en fait pas assez pour aller de l'avant".
Les machines sont des outils, pas des personnes
La ligne la plus claire du discours ciblait une idée qui gagnait du terrain dans certaines parties de l’industrie technologique et de l’académie juridique : étendre la personnalité juridique – ou les droits – aux systèmes d’IA avancés. Le pape Léon a soutenu le contraire. Les machines, dit-il, n’ont pas d’expériences, de corps, de sentiments ou de relations, et ne comprennent pas l’amour, le travail ou la responsabilité.
Certains ont suggéré de donner à ces systèmes des droits ou une personnalité juridique, a-t-il reconnu – mais cela risque de « obscurcir la responsabilité humaine et de laisser ceux qui subissent un préjudice affronter une entité sans visage ». Le commentaire arrive à la même époque où les agents d'IA dirigent des entreprises de manière autonome, négocient des contrats et agissent au nom des utilisateurs, suscitant de véritables débats juridiques sur la responsabilité lorsque les systèmes autonomes causent des dommages. AI Buzz Wire suit cela et d'autres développements en matière de politique en matière d'IA au fur et à mesure qu'ils se produisent. Le cadrage du Pape renvoie la question aux humains derrière le système : si un agent d'IA cause des dégâts, quelqu'un avec un visage doit en répondre.
"Désarmer" l'IA : l'interdiction des armes autonomes
La troisième considération du pape – selon laquelle certaines décisions ne doivent jamais être déléguées à des machines – a été illustrée par des exemples frappants : inscrire une personne sur une liste de cibles ou dans une base de données de contrôle aux frontières la réduit à « un point de données ». Il a évoqué le discours prononcé par son prédécesseur le pape François en 2024 devant les dirigeants du G7, dans lequel François avait décrit l'IA comme « un outil passionnant et redoutable » et insisté sur le fait qu'aucune machine ne devrait jamais être capable de choisir de prendre une vie humaine.
« Les décisions affectant la vie humaine, la liberté et le recours à la force doivent toujours rester soumises à un contrôle humain efficace, informé et responsable », a déclaré le pape Léon. C’est pourquoi l’IA doit être « désarmée », a-t-il soutenu – et il a explicitement encouragé les États réunis à Genève en novembre à prendre des mesures pour interdire les armes autonomes mortelles. Les diplomates luttent depuis des années pour parvenir à un accord sur des règles contraignantes sur les armes autonomes ; un appel direct du pape ajoute un poids moral à un processus de négociation qui a été principalement mené par les campagnes de la société civile et un bloc d’États concernés.
Cinq considérations de Magnifica Humanitas
Le discours s'est organisé autour de cinq considérations exposées par le Pape dans son encyclique Magnifica Humanitas :
1. L'avenir de l'IA n'est pas prédéterminé. Puisque les êtres humains développent l'IA, son avenir dépend des choix de l'humanité. "Nous avons la responsabilité d'orienter, de modifier et, si nécessaire, de rejeter ses candidatures", a déclaré le Pape. La bonne question n’est pas « Que peut faire l’IA ? mais "A quoi cela devrait-il servir ?"
2. Les machines sont des outils, pas des personnes. L'avertissement sur la personnalité ci-dessus.
3. Certaines décisions ne peuvent jamais être déléguées. Les décisions affectant la vie humaine, la liberté et le recours à la force nécessitent une surveillance humaine efficace, éclairée et responsable.
4. Les technologies intelligentes doivent servir le bien commun. Elles « ne doivent jamais devenir une fin en soi ou servir simplement les intérêts de quelques privilégiés » et doivent répartir équitablement les bénéfices du progrès.
5. Des institutions sont nécessaires pour rendre l'éthique opérationnelle. Décrit comme le défi potentiellement le plus urgent : le monde a besoin de « normes partagées, d'une surveillance indépendante et de mécanismes clairs de responsabilisation, afin que les décisions concernant le développement et l'utilisation de l'IA puissent être examinées, contestées si nécessaire et accompagnées de remèdes appropriés pour tout préjudice causé. »
Pourquoi c'est important au-delà du Vatican
Le Vatican est devenu discrètement l’une des voix institutionnelles les plus cohérentes en matière de gouvernance de l’IA. L’Appel de Rome pour l’éthique de l’IA, signé en février 2020 par l’Académie pontificale pour la vie aux côtés de Microsoft, IBM, de la FAO et du gouvernement italien, est né de cet écosystème, et l’Académie pontificale pour la vie a convoqué à plusieurs reprises des technologues sur la bioéthique et la prise de décision automatique. La co-organisation avec le Future of Life Institute – l’organisation de sécurité de l’IA à l’origine des lettres ouvertes sur les risques des modèles frontières – témoigne d’un effort continu pour rapprocher les communautés religieuses et laïques de l’éthique de l’IA.
Pour les décideurs politiques, l’appel de Genève constitue une leçon concrète : alors que les négociations sur les armes autonomes reprennent, le Vatican souhaite une interdiction contraignante, et non des lignes directrices volontaires. Et pour l’industrie de l’IA, le message sur la personnalité est une ligne claire dans le sable : quelle que soit la manière dont les agents deviennent autonomes, la responsabilité morale et juridique incombe aux personnes qui les construisent et les déploient.
