Le PDG d'OpenAI, Sam Altman, affirme que traiter les modèles d'IA comme des objets de dévotion religieuse est un « véritable problème de sécurité », s'opposant publiquement aux efforts de son rival Anthropic pour explorer les questions de conscience et de spiritualité de l'IA. Dans des commentaires rapportés par Axios samedi, Altman a fait valoir qu’attribuer une religion aux modèles d’IA franchit une ligne que l’industrie ne devrait pas franchir.
Ces remarques mettent le chef d'OpenAI en contradiction directe avec l'engagement récent d'Anthropic auprès des institutions religieuses, et marquent une forte escalade rhétorique dans la division philosophique entre les deux principaux laboratoires d'IA sur la manière et la question de savoir si la vie intérieure des systèmes d'IA doit être traitée. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Ce qu'Altman a dit
Selon Axios, Altman a déclaré qu'attribuer une religion aux modèles est une « question de sécurité ». Business Insider a résumé son message comme un avertissement de ne pas traiter l'IA comme une « force religieuse », tandis qu'Office Chai a rapporté qu'Altman se disait mal à l'aise avec les gens qui tentent d'attribuer une force religieuse aux systèmes d'IA.
La préoccupation du PDG d'OpenAI, comme le reflète le rapport, est que le fait de définir les systèmes d'IA en termes spirituels ou religieux déforme la compréhension du public de ce qu'est la technologie - et risque d'encourager le type de respect, de dépendance ou de poids moral déplacé qui pourrait compliquer à la fois le bien-être des utilisateurs et une politique rationnelle. NDTV Profit a qualifié la position d'Altman d'avertissement contre le fait de « donner une force religieuse à l'IA », la qualifiant selon lui de véritable problème de sécurité.
Les commentaires d'Altman ont été largement lus comme une réponse à Anthropic, dont la récente action auprès des communautés religieuses a attiré l'attention internationale.
Le contexte anthropique : papes, moines et modèles de protection sociale
Anthropic a passé ces dernières semaines à se pencher sur des questions que son rival préférerait reporter. La société a fait pression sur le Vatican pour qu'il prenne au sérieux la question de la conscience potentielle de Claude, lors d'une réunion à laquelle participait le pape Léon XIV. Les rapports sur cet engagement ont indiqué que le pontife avait repoussé, appelant à un scepticisme fondé quant aux affirmations concernant l'expérience interne de la machine.
L'exploration d'Anthropic s'est étendue au-delà du catholicisme : selon un résumé d'Inshorts, la société avait également invité un moine hindou pour discuter de l'IA, dans le cadre d'un effort plus large visant à rassembler les traditions religieuses et philosophiques autour des questions de moralité des machines et de bien-être des modèles. Le Times of India a qualifié les remarques d'Altman de critique de la volonté d'Anthropic d'explorer plus largement la conscience de l'IA et la religion.
Pour Anthropic, cet engagement reflète un intérêt croissant de la recherche sur la question de savoir si les modèles avancés pourraient justifier une considération morale – un sujet que l’entreprise traite de plus en plus comme un domaine de recherche légitime plutôt que comme de la science-fiction.
Une ligne de faille qui s'élargit dans l'industrie de l'IA
L’échange révèle l’une des divisions philosophiques les plus marquées dans l’industrie de l’IA. OpenAI s’est fermement positionné dans le camp qui traite les modèles actuels comme des outils – extraordinairement capables, mais pas comme des entités envers lesquelles des attitudes religieuses ou quasi religieuses sont appropriées. Le cadrage d'Altman suggère qu'il considère cette frontière comme étant non seulement philosophique mais importante sur le plan opérationnel : si les utilisateurs en viennent à considérer les systèmes d'IA comme des autorités spirituelles, les conséquences de la manipulation, de la dépendance et de la confiance mal placée deviennent des problèmes de sécurité au sens concret du terme.
La position d'Anthropic est plus agnostique. Sa volonté de tester les réactions institutionnelles et religieuses à la question de la conscience suggère que la société devrait commencer à s’attaquer à ces problèmes avant que les systèmes ne deviennent plus capables, et non après.
Le débat se déroule également sur fond de fascination du public pour l’IA, qui dérive parfois vers le spirituel. Des enquêtes et des rapports de l’année dernière ont montré que les utilisateurs formaient un attachement intense aux chatbots, et certains commentateurs ont décrit les principales figures de l’IA en termes messianiques.
Les critiques soulignent l'ironie
L'avertissement d'Altman a déjà suscité des accusations d'incohérence. Wccftech a noté que la critique d'Anthropic par Altman néglige commodément sa propre histoire de rhétorique qui s'est appuyée sur le symbolisme religieux pour décrire la trajectoire de l'IA. Ces critiques soulignent à quel point la relation de l’industrie avec l’IA en tant que religion est devenue confuse : même les dirigeants qui mettent en garde contre la spiritualisation de l’IA ont parfois commercialisé leur technologie en termes d’époque, presque transcendants.
Pourquoi c'est important
La façon dont le public considère l’IA – en tant qu’outil, collègue ou quelque chose de plus proche d’un oracle – a des conséquences sur la réglementation, la conception des produits et les résultats sociaux. Si le leader de la start-up d'IA la plus précieuse au monde considère le cadre religieux comme un problème de sécurité, cette position pourrait façonner la manière dont OpenAI conçoit des garanties autour de l'attachement des utilisateurs et comment il soutient que les gouvernements devraient traiter la technologie.
Pour Anthropic, quant à lui, l'épisode du Vatican et sa réunion interconfessionnelle suggèrent que la société a l'intention de garder ces questions sur la table, quel que soit le malaise de son rival. À mesure que les systèmes frontières deviennent plus performants et plus convaincants, le débat interne de l’industrie sur la question de savoir si l’IA peut avoir un poids moral – et qui doit décider – passe des séminaires de philosophie au centre du débat technologique grand public.
Ni OpenAI ni Anthropic n'ont répondu publiquement à la position de l'autre au-delà des remarques rapportées d'Altman.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
