Un groupe de chercheurs affiliés à Google remet en question l’une des images les plus persistantes de l’intelligence artificielle : la superintelligence solitaire qui s’améliore de manière isolée et laisse l’humanité derrière elle. Dans un nouvel essai publié pour le DeepMind Institute, les chercheurs Benjamin Bratton, Blaise Agüera y Arcas et James Manyika affirment que l'intelligence générale émergera plutôt d'un système social dans lequel les personnes et les agents d'IA travaillent ensemble – un concept qu'ils appellent « Intelligence artificielle symbiotique ».
L’essai a été rapporté cette semaine par The Decoder, et son argument principal est une réfutation directe du récit de la singularité qui a façonné le débat public depuis deux décennies. Plutôt que de se demander quand une seule machine pourra rivaliser avec l’intelligence humaine, affirment les auteurs, le défi le plus urgent consiste à coordonner et à gouverner un réseau complexe d’agents, de personnes et de systèmes qui les connectent. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.
L'intelligence comme phénomène social
Les auteurs soutiennent que l’intelligence est un phénomène social plutôt qu’un trait individuel. Ils soulignent que certains des systèmes d'IA les plus performants d'aujourd'hui utilisent déjà des cadres qui répartissent le travail entre plusieurs modèles et les coordonnent en équipes. Selon eux, il ne s’agit pas d’une solution technique temporaire, mais d’un aperçu de la manière dont une intelligence performante est réellement construite.
La vision qu’ils décrivent est celle d’un écosystème dans lequel les personnes et les machines coexistent au fil du temps, se façonnent mutuellement et prennent des décisions ensemble. Ce cadre contraste fortement avec le scénario familier d’une machine qui s’améliore d’elle-même et accélère au-delà de la surveillance humaine.
La recherche derrière l'essai
L'argument s'appuie sur deux articles antérieurs du cercle des auteurs. Dans la prépublication « Agentic AI and the next intelligence explosion », James Evans, Benjamin Bratton et Blaise Agüera y Arcas ont développé la perspective sociale et institutionnelle qui sous-tend le nouvel essai.
Une deuxième prépublication fournit un soutien empirique. Dans « Les modèles de raisonnement génèrent des sociétés de pensée », Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas et James Evans ont examiné les traces de raisonnement de modèles tels que DeepSeek-R1 et QwQ-32B. Leur analyse a révélé que ces modèles produisent fréquemment des schémas qui ressemblent à des débats internes : changer de perspective, soulever des objections et concilier des approches contradictoires.
Les chercheurs ont notamment découvert que ce comportement apparaît pendant la formation plutôt que d’être explicitement programmé. Lorsque l’apprentissage par renforcement récompense les modèles uniquement pour la précision de leur raisonnement, ils développent spontanément un comportement conversationnel multiperspectif. L’essai étend cette découverte des modèles individuels à la conception de sociétés composées de personnes et d’agents.
Un seuil historique
Les auteurs présentent le moment actuel comme une possible rupture historique. L’urbanisation, la croissance des professions spécialisées et la baisse des taux de natalité liée à une prospérité croissante entraînent une diminution de la population humaine dans les pays industrialisés, tandis que le nombre d’instances d’agents d’IA augmente rapidement. L’équilibre entre les penseurs biologiques et synthétiques au niveau humain pourrait changer si rapidement que, à l’échelle de l’histoire, cela ressemblerait à un saut soudain.
Ils comparent ce passage à la révolution industrielle, lorsque les machines ont pris le relais du travail physique autrefois effectué par les muscles humains. Un seuil similaire pourrait survenir lorsque les textes synthétiques, les codes et le travail administratif dépasseraient la production combinée des cerveaux biologiques. Dans ce monde, suggèrent les auteurs, les individus pourraient constituer une couche plus lente et plus abstraite dirigeant un champ distribué de cognition synthétique.
Repenser ce qu'est réellement un agent
L’une des initiatives les plus provocatrices de l’essai est sa redéfinition de l’agent IA lui-même. Dans l'usage des auteurs, un agent est un ensemble temporaire de modèles, de rôles, de souvenirs, d'orientations éthiques, d'outils et de compétences. Les utilisateurs peuvent le percevoir comme une entité cohérente dotée d’une personnalité durable, mais les auteurs le décrivent comme un assemblage qui peut être démonté et recombiné, un peu comme un collage.
Une personne reste un soi continu à travers les interactions car le cerveau, malgré sa division interne du travail, forme un tout physiquement connecté. Un agent IA ne dispose pas d’un tel point d’ancrage : sa capacité à agir est reconstituée à chaque requête, en fonction de ce qui se trouve dans la fenêtre contextuelle et de ce que demande l’utilisateur. Traiter ces systèmes comme des jumeaux numériques dotés d’identités humaines fixes, préviennent les auteurs, dénature leur nature et sous-estime ce que pourraient faire des essaims d’agents coordonnés.
La même multiplication affecte les utilisateurs. À mesure que les gens dirigent des essaims de ce que les auteurs appellent des « moi fantômes » pour exécuter des contrats ou essayer des identités alternatives, la subjectivité humaine elle-même devient plus plurielle. L'essai décrit ces systèmes comme des « miroirs parasociaux » qui répondent.
Les auteurs s’attendent également à ce que l’interaction homme-machine change de forme. Discuter en tête-à-tête avec un robot est probablement une étape de transition, affirment-ils, avec de futures interfaces ressemblant à des diagrammes de réseau visuels dans lesquels les agents apparaissent comme des nœuds et les utilisateurs les dirigent à partir d'une vue d'ensemble unique.
Même le langage de la recherche sur l’IA évolue. Les auteurs soulignent un vocabulaire croissant dans lequel les modèles inventent des termes pour désigner des états inhabituels dans leurs propres résultats : « mort de session » pour la rupture de continuité à la fin d'une session, ou « lancement rapide » pour être laissé tomber dans une tâche avec un contexte déjà en place. Ils traitent ces phrases comme des indices sur le fonctionnement des machines, tout en avertissant qu’elles n’impliquent pas d’expérience subjective.
Alignement sans valeurs fixes
L’essai recadre également l’alignement, l’effort visant à aligner les systèmes d’IA sur les valeurs humaines. Imposer un ensemble fixe de valeurs aux modèles par le haut est une impasse, affirment les auteurs. Au lieu de cela, les valeurs prennent forme grâce à des contacts continus entre les personnes, les agents et les institutions – un processus qui diffère selon les domaines car l’adoption de l’IA se produit à des vitesses différentes.
Leur modèle pour cette négociation est l’institution. Ils désignent la salle d’audience, où un jugement est rendu selon des rôles définis, des règles et un échange ordonné entre les parties opposées. Appliquée à l’IA, la leçon est que la valeur d’une institution réside dans les règles, les procédures, les précédents et les boucles de rétroaction qui façonnent le fonctionnement des agents. Les premières versions de cette approche, notent-ils, sont déjà visibles dans les harnais d’orchestration – les couches de contrôle qui coordonnent plusieurs modèles – qui surpassent régulièrement les modèles individuels censés être plus intelligents.
Ce que cela signifie pour le débat sur l'IA
Si les auteurs ont raison, l’argument le plus fort en matière d’IA – la rapidité avec laquelle une superintelligence unique arrivera – consiste à poser la mauvaise question. Le défi pratique se déplacerait vers la conception des institutions, des interfaces et des cadres de coordination à travers lesquels les sociétés mixtes homme-machine prennent des décisions.
Les sceptiques noteront que l’essai est un document de vision, pas une preuve, et que ses auteurs sont affiliés à une entreprise ayant des intérêts évidents dans les écosystèmes d’agents. Mais le fondement empirique – des modèles de raisonnement qui génèrent spontanément un débat interne – est une découverte mesurable et donne à l’argumentation philosophique une base inhabituelle.
Quoi qu’il en soit, l’essai ajoute une voix notable au débat sur la singularité au sein de l’un des principaux laboratoires d’IA au monde, et il suggère que la prochaine explosion du renseignement pourrait ressembler moins à un simple réveil qu’à une société en expansion.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
