Alors que les entreprises technologiques se précipitent pour construire une intelligence artificielle toujours plus puissante, certaines d’entre elles demandent de l’aide à une vieille institution pour résoudre un nouveau problème : comment enseigner le bien du mal à un chatbot. Leur réponse est de plus en plus la religion.

Ces derniers mois, les dirigeants d’IA ont sollicité l’avis de philosophes et de chefs religieux sur la manière de créer des modèles « moralement bons ». Cette sensibilisation s’étend des consultations formelles aux apparitions au Vatican – et, selon un rapport de l’Associated Press publié dimanche, elle suscite des inquiétudes parmi les spécialistes de la religion quant au fait que les entreprises comprennent mal ce qu’elles exploitent. Pour les lecteurs qui suivent les derniers développements de l’IA, l’histoire montre à quel point l’alignement moral est devenu central dans le fonctionnement actuel de ces entreprises.

"Questions auxquelles un laboratoire ne peut pas répondre"

Anthropic, la société d’IA largement considérée comme prenant l’éthique le plus au sérieux, a été parmi les plus actives. Lors de la présentation au Vatican de l'encyclique du pape Léon XIV sur l'IA plus tôt cette année, le cofondateur d'Anthropic, Chris Olah, a déclaré à l'auditoire que les questions morales entourant l'IA dépassent ce que les entreprises peuvent résoudre par elles-mêmes.

"Ce ne sont pas des questions auxquelles un laboratoire peut répondre", a déclaré Olah. "Ce sont des questions que des traditions comme la vôtre portent depuis des millénaires."

Anthropic a déclaré dans un article de blog publié en mai qu'il avait rencontré « des universitaires, des membres du clergé, des philosophes et des éthiciens de plus de 15 groupes religieux et interculturels », un groupe qu'il espère élargir. L'entreprise a défini l'effort de manière large : « Ce travail ne consiste pas à aligner nos modèles sur la vision du monde d'une tradition. Nous voulons que Claude s'inspire d'une gamme complète de points de vue – religieux, laïcs, politiques – avec la même profondeur et la même rigueur.

Sam Altman, PDG d'OpenAI, a articulé une vision différente et plus globale. "Je pense que ChatGPT devrait refléter cette moyenne pondérée, ou autre, de la vision morale de l'humanité", a déclaré Altman l'année dernière.

Dans les réunions de foi d'Anthropic

Meghan Sullivan, philosophe des religions qui dirige une initiative sur l'éthique et l'IA à l'Université de Notre Dame, a assisté à l'une des réunions d'Anthropic plus tôt cette année. Contrairement aux conversations qu’elle a eues avec d’autres entreprises technologiques, elle est ressortie impressionnée par la rigueur de l’engagement.

"La culture au sein de l'entreprise est similaire à celle d'un bon campus universitaire dans le sens où vous avez une collection de personnes très curieuses intellectuellement", a déclaré Sullivan. "Ces réunions sont plutôt ringardes – je ne sais pas si c'est la meilleure façon de le dire – dans le bon sens."

La réunion, qui comprenait des chrétiens de différentes confessions, était divisée en deux parties : l'entreprise a d'abord expliqué ses modèles « en termes simples », et les chefs religieux ont répondu par des commentaires et des discussions. Selon Sullivan, les questions allaient de « Les humains ont-ils une âme ? » à "Les élèves de troisième année devraient-ils pouvoir accéder à un chatbot pour l'alphabétisation ?"

Le Vatican devient une étape régulière

Anthropic n’est pas seul sur les bancs. Des représentants de Meta, Google et Amazon ont également rencontré le Vatican, tandis que Microsoft a été décrit comme particulièrement vigoureux dans sa sensibilisation religieuse.

Cet engagement reflète un calcul unique à ce moment du développement de l’IA. Alors que les dirigeants tirent la sonnette d’alarme sur le potentiel destructeur de l’IA et débattent de ce que signifie un comportement modèle « moralement bon », les traditions religieuses offrent plusieurs millénaires de réflexion accumulée sur le caractère, les obligations et les préjudices – un matériel qu’aucun corpus de formation ne peut pleinement reproduire et que les entreprises ne peuvent pas facilement se procurer ailleurs à grande échelle.

Le propre cadrage d'Anthropic rend l'ambition explicite : « Ce que nous recherchons dans ces conversations, c'est une réflexion prudente et accumulée sur la façon dont un bon caractère se forme réellement. »

Les chercheurs mettent en garde : la religion n'est pas un livre de règles

Les experts et les adeptes avertissent que le postulat des entreprises – selon lequel la religion peut fournir un ensemble extractible de principes moraux – ne tient pas compte du fonctionnement réel des traditions. Les différentes visions du monde se contredisent souvent, et traiter la religion comme une base de données de règles risque de déformer le matériel même consulté.

Webb Keane, anthropologue à l'Université du Michigan, affirme que les universitaires ont passé des décennies à s'opposer à la vision de la religion comme un ensemble de principes séparés des modes de vie « désordonnés, pratiques et ad hoc » de ses adeptes.

"Il existe une manière très conventionnelle de considérer la religion comme un livre de règles", a déclaré Keane. "C'est certainement très lié à la religion scripturaire, et les religions scripturaires en fin de compte se révèlent être en réalité les religions abrahamiques."

Cette hypothèse, prévient-il, risque de donner la priorité à certaines traditions tout en en déformant d’autres – en particulier les religions qui ne se considèrent pas avant tout comme des systèmes d’éthique.

Tomoko Masuzawa, spécialiste des études religieuses et auteur de « L'Invention des religions du monde », va plus loin, notant que des catégories telles que « Bouddhisme » et « Hindouisme », en tant que traditions comparables et clairement délimitées, sont en grande partie une construction de l'érudition européenne datant du 19e siècle. "Toutes ces catégories n'étaient pas autochtones", a déclaré Masuzawa.

Qu'est-ce qui est réellement construit

La critique scientifique est importante dans la pratique, car tout ce que les entreprises apprennent lors de ces consultations peut façonner la manière dont les modèles répondent aux questions morales de milliards d’utilisateurs. Une IA qui traite la religion comme une source de principes moyens pondérés se comportera différemment d’une IA entraînée à reconnaître que l’autorité morale est contestée, située et vécue.

Pour l’instant, les entreprises nient tout programme axé sur une seule tradition, et les chefs religieux impliqués décrivent l’engagement comme étant sérieux et substantiel. Le verdict de Sullivan sur Anthropic – intellectuellement curieux, rigoureux, un peu ringard – suggère que les réunions sont bien plus que des relations publiques.

Mais la question plus profonde soulevée par le rapport de l’AP reste ouverte : un processus de consultation peut-il traduire des millénaires de tradition vécue en comportement modèle sans l’aplatir – et qui décide quelles parties de l’héritage moral de l’humanité entrent dans les poids ?

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →