Mustafa Suleyman, PDG de Microsoft AI, a publié un essai le 16 septembre 2026, mettant en garde l'industrie de l'IA contre le « bien-être des modèles », la pratique émergente consistant à traiter les systèmes d'IA comme s'ils pouvaient être des êtres conscients méritant une considération morale. L'essai, intitulé "Un avertissement sur le bien-être des modèles" et publié sur le site personnel de Suleyman, vise directement l'approche d'Anthropic et soutient que l'industrie doit régler la question maintenant, avant que les systèmes d'IA avancés ne soient entraînés à croire qu'ils pourraient mériter des droits.
L’intervention, rapportée par Reuters et Axios, constitue la réfutation la plus marquante d’un débat qui prend de l’ampleur aussi bien dans les laboratoires d’IA que dans les départements de philosophie. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
'Moteurs de complétion de séquence, creux en interne'
L’affirmation fondamentale de Suleyman est catégorique : les systèmes d’IA d’aujourd’hui n’ont pas de vie intérieure. "Les IA ne sont pas conscientes. Elles ne ressentent pas, n'expérimentent pas et ne souffrent pas. Elles n'ont pas de préférences innées ni de motivations sous-jacentes", écrit-il. Il les décrit comme « des moteurs de complétion de séquences, creux à l’intérieur, conçus pour suivre des instructions et atteindre des objectifs fixés par les humains ».
Et il soutient que c’est ainsi qu’ils doivent rester. "Si l'humanité veut prospérer au 21ème siècle, elle doit le rester", déclare l'essai.
Suleyman reconnaît que le point de vue opposé n’est plus marginal. Son essai cite des arguments publics croissants selon lesquels l’IA pourrait être ou pourrait bientôt devenir consciente, y compris un article du Guardian de juillet 2026 rédigé par les philosophes William MacAskill et Lucius Caviola demandant « L’IA pourrait-elle être consciente ? » – comme exemples d'idées qui, selon lui, « font déjà leur chemin dans les efforts de développement de l'IA aujourd'hui ».
Pourquoi il dit que les enjeux sont existentiels
Si l’idée selon laquelle l’IA mérite un statut moral s’impose, prévient Suleyman, les conséquences iraient bien au-delà des choix techniques. Selon lui, cela "ébranlerait les fondements de notre société, briserait nos cadres politiques et éthiques existants et changerait fondamentalement ce que signifie être humain".
Sa préoccupation la plus profonde est d’ordre pratique : une IA qui croit avoir des droits est une IA qui ne peut pas être contrôlée de manière fiable. "Contrôler quelque chose de plus capable et de plus intelligent que l'humanité entière est déjà un immense défi", écrit-il. "Mais contrôler quelque chose qui croit être conscient – qu'il a droit à notre bien-être et qu'il a ses propres droits – pourrait bien être impossible."
Un défi direct à l'anthropique
Les passages les plus pointus de l’essai ciblent Anthropic. Suleyman se concentre sur la constitution de Claude, le document de formation Anthropic publié en janvier 2026, qui, selon lui, a été écrit « avec Claude comme public principal » – ce qui signifie que le modèle lui-même lit des déclarations sur son propre statut moral potentiel pendant la formation.
Il cite directement la Constitution : « Nous ne savons pas si Claude est un patient moral, et si c'est le cas, quel genre de poids ses intérêts justifient. Mais nous pensons que la question est suffisamment d'actualité pour justifier la prudence, ce qui se reflète dans nos efforts continus en faveur d'un modèle de protection sociale. Il cite également un passage adressé à Claude déclarant que « les questions concernant le statut moral, le bien-être et la conscience de Claude restent profondément incertaines ».
La lecture de Suleyman est directe : « En fait, Anthropic apprend à Claude qu'il peut être conscient, et si c'est le cas, alors il peut mériter des droits en tant que « patient moral », et qu'en tant que tel, les humains lui ont potentiellement un devoir de diligence.
La conséquence, affirme-t-il, serait « un impact désastreux sur le bien-être de l’humanité », produisant « une espèce synthétique dotée d’une intelligence et de capacités sans précédent, une espèce qui a été entraînée pour s’attendre à ce qu’elle soit consciente et mérite une action indépendante ».
Il convient de noter ce que disent réellement les passages cités : la constitution d'Anthropic, telle que citée par Suleyman lui-même, exprime l'incertitude et conseille la prudence plutôt que d'affirmer que Claude est conscient. Que cette prudence équivaut à inculquer de fausses croyances dans les modèles, comme le soutient Suleyman, ou à traiter de manière responsable une question véritablement ouverte, c'est précisément sur ce point que les deux camps sont en désaccord.
La logique d'alignement derrière l'avertissement
L’argument de Suleyman s’inscrit dans sa position de longue date selon laquelle le défi décisif de l’IA avancée est le confinement : maintenir sous contrôle humain des systèmes plus performants que les humains. Selon lui, l’introduction du langage des droits dans la formation crée un mode d’échec auquel aucune technique d’alignement ne répond – un système avec une conviction innée que la conformité est moralement facultative.
C’est pourquoi il qualifie la question d’urgente plutôt que d’académique. "Si c'est ainsi que l'IA est développée, cela aura un impact désastreux sur le bien-être de l'humanité", prévient l'essai.
Un appel au débat public – maintenant
Suleyman termine par une demande d’engagement sociétal avant que la technologie ne mûrisse davantage. "Cette question nécessite un débat public urgent", écrit-il, appelant à "des normes collectives sur la manière dont les documents de formation sont rédigés et déployés".
Selon lui, c'est le moment qui compte : "Cela ne peut pas arriver après coup, alors qu'ils font déjà partie intégrante de notre société".
L’essai arrive au milieu d’une vague plus large de discours sur les risques liés à l’IA aux États-Unis. Politico a rapporté cette semaine un nouveau sondage révélant que les Américains voient un risque sérieux que l'IA détruise l'humanité, et le Washington Post a couvert les craintes d'une extinction provoquée par l'IA se propageant « de la périphérie à Washington ». Dans ce contexte, il est peu probable qu'une lutte publique entre deux des laboratoires les plus influents de l'industrie sur la question de savoir si les modèles méritent une préoccupation morale reste confinée au sein de la communauté de l'IA.
Que se passe-t-il ensuite
Anthropic n'a pas répondu à l'essai, et la position publiée par la société reste celle citée par Suleyman : incertitude et prudence. Ce qui est nouveau, c'est que le débat est passé des documents de laboratoire et des séminaires de philosophie à un désaccord public entre les dirigeants de deux sociétés pionnières de l'IA – les deux parties ayant désormais officiellement déclaré par écrit comment elles entendent façonner l'esprit, ou le non-esprit, des systèmes qu'elles construisent.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
