Quiconque a travaillé avec un agent IA sur un projet de plusieurs jours connaît le mur : chaque nouvelle session repart de zéro. Dans un nouvel article de recherche, Anthropic décrit comment Claude est conçu pour conserver les connaissances au fil des sessions tandis que le modèle sous-jacent reste inchangé – en écrivant des notes dans un dossier qu'il pourra relire plus tard. Ce qui est surprenant, c’est que la partie la plus complexe de la mémoire des agents n’est pas le stockage. C'est la sélection.
Le problème central, selon Anthropic, est qu’un agent doit décider sur le moment ce qui pourrait avoir de l’importance plus tard, avant de savoir ce qui va suivre. Chaque note est un pari sur l'avenir. Stockez trop peu et l’agent répète ses erreurs ; stockez trop et l'archive devient obsolète, consomme du contexte et reporte les erreurs indéfiniment.
Le test Pokémon : 413 fichiers, un badge
Pour illustrer le mode d'échec, Anthropic a souligné les tests exécutés dans Pokémon Red. Claude Sonnet 3.7, un modèle plus ancien, traitait tout comme potentiellement important. Au cours d'environ 10 000 étapes de jeu, il a créé 413 fichiers répartis dans 225 dossiers, souvent un fichier distinct pour chaque bataille et chaque objet rencontré. Parce que l'état du jeu changeait constamment, l'archive est devenue obsolète presque aussi vite qu'elle a été écrite. Parfois, le modèle ne faisait que réorganiser ses notes au lieu de jouer, et terminait la course avec un seul badge.
Le plus récent Claude Fable 5 a adopté l'approche inverse : il a limité sa mémoire à une poignée de fichiers et a obtenu quatre badges. Fable 5 n'a pas enregistré les informations déjà visibles à l'écran, mais a plutôt écrit les plans, les stratégies et les règles qu'il avait testés. Anthropic prévient que la comparaison ne couvre qu'un seul jeu par modèle, le résultat est donc indicatif plutôt que définitif – mais l'orientation est cohérente avec les conseils plus larges de la société.
Ce conseil est d'expliquer le but de la mémoire à Claude et de laisser le modèle décider comment l'utiliser. Dans un benchmark, des instructions rigides telles que « n'enregistrer que les erreurs » ont effacé la plupart des avantages des modèles plus puissants. Les modèles plus anciens, en revanche, bénéficiaient d’instructions claires, comme par exemple de lire leurs notes avant chaque réponse.
Rêver : auditer la mémoire après coup
Le plus grand risque pour les agents de longue date est de ne pas oublier : il s’agit de se fier à des notes erronées. La réponse d'Anthropic est un processus appelé Dreaming, une idée qui s'appuie sur les recherches de Letta et de l'UC Berkeley. Tout comme le cerveau humain consolide ses expériences pendant le sommeil, Claude parcourt les transcriptions des séances précédentes pendant une pause et vérifie ses notes par rapport à ce qui s'est réellement passé.
Lors du test Pokémon, Claude avait mal noté de quel côté d'une montagne se trouvait un point de repère. S'appuyant sur cette note erronée, l'agent est tombé trois fois dans le même piège, a finalement voulu abandonner et a raté son objectif. Après une passe Dreaming, Claude a détecté l'erreur en comparant la note avec la transcription et a trouvé le bon chemin.
Rêver peut aussi organiser des bases de connaissances beaucoup plus vastes. Claude a construit un wiki lié à partir d'environ 350 000 documents internes de Stainless, une société de logiciels acquise par Anthropic, Dreaming générant de nouvelles pages tout en corrigeant les lacunes, les doublons et les liens rompus. Le gain a été plus grand lorsque Claude a pu combiner le wiki avec la recherche, de sorte que la mémoire organisée a fonctionné comme un complément à la récupération plutôt que comme un remplacement.
Quand un wiki bat la recherche
Dans un test juridique distinct mené par Anthropic, un wiki organisé a été le plus utile pour les questions dont les réponses étaient réparties dans plusieurs documents. Claude a obtenu un score de 87 pour cent avec le wiki, contre 73 pour cent en utilisant uniquement la recherche. Pour les tâches de recherche simples, le wiki a effectué à peu près le même niveau de performance que la recherche – et dans un cas, il est même devenu plus volumineux que les documents sources qu'il résumait.
Anthropic est franc sur les problèmes ouverts. Prendre des notes en cours de tâche distrait l'agent de son travail. Rêver coûte un calcul supplémentaire et ses résultats n’arrivent qu’après un certain temps. Les wikis et les notes nécessitent également un entretien régulier, sinon les erreurs et les hallucinations s’accumulent. Et la société met en garde contre le chargement automatique d’un trop grand nombre de mémoires dans chaque session, car elles consomment du contexte et transmettent toute mauvaise note à chaque session future.
De l'aperçu de la recherche au produit
Le rêve en lui-même n'est pas nouveau : Anthropic l'a présenté en mai comme un aperçu de la recherche pour Claude Managed Agents, la plateforme cloud de l'entreprise pour les agents IA. Le service lit une mémoire existante et jusqu'à 100 sessions passées, supprime les entrées en double et obsolètes et crée une mémoire réorganisée tout en laissant l'original intact. Au lancement, il prenait en charge Claude Opus 4.7 et Sonnet 4.6. OpenAI a depuis emprunté la marque pour sa propre refonte de la mémoire de ChatGPT en juin, qu'il appelle également « Dreaming » – un système d'arrière-plan qui maintient un profil utilisateur et corrige automatiquement les informations obsolètes.
Ce qu'il faut retenir des recherches d'Anthropic, c'est qu'une mémoire d'agent utile dépend moins du stockage du plus grand nombre possible que de la conservation des bonnes informations et de la correction des erreurs ultérieurement. Alors que les laboratoires s’efforcent de créer des agents capables de fonctionner de manière fiable pendant des jours et des semaines plutôt que quelques minutes, la conservation de la mémoire devient discrètement une frontière concurrentielle à part entière. Vous pouvez suivre les derniers développements de l'IA dans la recherche d'agents sur AI Buzz Wire.
Gardez une longueur d'avance sur l'IA
La recherche sur les agents progresse rapidement et la mémoire est le prochain champ de bataille. Obtenez toutes les mises à jour, ainsi que les derniers développements en matière d'IA de tous les grands laboratoires, sur AI Buzz Wire.
Lire plus d'actualités sur l'IA →