Chiunque abbia lavorato con un agente AI su un progetto di diversi giorni conosce il muro: ogni nuova sessione inizia da zero. In un nuovo post di ricerca, Anthropic descrive come Claude è progettato per conservare la conoscenza attraverso le sessioni mentre il modello sottostante rimane invariato, scrivendo note in una cartella che può rileggere in seguito. La scoperta sorprendente è che la parte più difficile della memoria dell’agente non è l’archiviazione. È selezione.
Il problema principale, secondo Anthropic, è che un agente deve decidere sul momento cosa potrebbe avere importanza in seguito, prima di sapere cosa verrà dopo. Ogni nota è una scommessa sul futuro. Conserva troppo poco e l'agente ripete i suoi errori; archiviare troppe cose e l'archivio diventa obsoleto, mangia il contesto e porta avanti gli errori all'infinito.
Il test Pokémon: 413 file, un badge
Per illustrare la modalità di fallimento, Anthropic ha indicato i test eseguiti all'interno di Pokémon Rosso. Claude Sonnet 3.7, un modello più vecchio, trattava tutto come potenzialmente importante. In circa 10.000 passaggi di gioco ha creato 413 file distribuiti in 225 cartelle, spesso un file separato per ogni battaglia e oggetto incontrato. Poiché lo stato del gioco continuava a cambiare, l'archivio diventava obsoleto quasi con la stessa rapidità con cui veniva scritto. A volte il modello non faceva altro che riorganizzare le sue note invece di suonare, e terminava la corsa con un unico badge.
Il più recente Claude Fable 5 ha adottato l'approccio opposto: ha limitato la sua memoria a una manciata di file e ha guadagnato quattro badge. Fable 5 non ha registrato le informazioni che erano già visibili sullo schermo, ma ha invece annotato piani, strategie e regole che aveva testato. Anthropic avverte che il confronto copre solo una singola partita per modello, quindi il risultato è indicativo piuttosto che definitivo, ma la direzione è coerente con il consiglio più ampio dell'azienda.
Il consiglio è di spiegare lo scopo della memoria a Claude e lasciare che sia il modello a decidere come usarla. In un benchmark, istruzioni rigide come "solo registrare errori" hanno cancellato la maggior parte del vantaggio per i modelli più potenti. I modelli più vecchi, al contrario, beneficiavano di istruzioni chiare, come ad esempio sentirsi dire di leggere effettivamente gli appunti prima di ogni risposta.
Sognare: controllare la memoria a posteriori
Il rischio maggiore negli agenti a lungo termine non è dimenticare: è fidarsi delle banconote difettose. La risposta di Anthropic è un processo chiamato Dreaming, un'idea che si basa sulla ricerca di Letta e UC Berkeley. Proprio come il cervello umano consolida le esperienze durante il sonno, Claude esamina le trascrizioni delle sessioni precedenti durante una pausa e confronta i suoi appunti con ciò che è realmente accaduto.
Nel test Pokémon, Claude aveva erroneamente notato su quale lato della montagna si trovava un punto di riferimento. Basandosi su quella nota sbagliata, l'agente è caduto tre volte nella stessa trappola, alla fine ha voluto arrendersi e ha mancato il suo obiettivo. Dopo un passaggio Dreaming, Claude ha colto l'errore confrontando la nota con la trascrizione e ha trovato la strada giusta.
Sognare può anche organizzare basi di conoscenza molto più ampie. Claude ha creato una wiki collegata da circa 350.000 documenti interni di Stainless, una società di software acquisita da Anthropic, con Dreaming che genera nuove pagine correggendo lacune, duplicati e collegamenti interrotti. Il profitto è stato maggiore quando Claude ha potuto combinare il wiki con la ricerca, quindi la memoria curata ha funzionato come complemento al recupero piuttosto che come suo sostituto.
Quando un Wiki batte la ricerca
In un test legale separato condotto da Anthropic, una wiki curata ha aiutato maggiormente su domande le cui risposte erano distribuite su più documenti. Claude ha ottenuto l'87% con il wiki, rispetto al 73% utilizzando la sola ricerca. Per semplici attività di ricerca, il wiki ha funzionato più o meno allo stesso livello della ricerca e in un caso è addirittura diventato più grande dei documenti di origine che riassumeva.
Anthropic è sincero riguardo ai problemi aperti. Prendere appunti durante l'attività distrae l'agente dal suo lavoro. Sognare costa un calcolo aggiuntivo e i risultati arrivano solo con un ritardo. Anche i wiki e le note necessitano di una manutenzione regolare, altrimenti errori e allucinazioni si accumulano. E l’azienda mette in guardia dal caricare automaticamente troppi ricordi in ogni sessione, perché divorano il contesto e trasmettono qualsiasi nota negativa a ogni sessione futura.
Dall'anteprima della ricerca al prodotto
Dreaming in sé non è una novità: Anthropic lo ha presentato a maggio come anteprima di ricerca per Claude Managed Agents, la piattaforma cloud dell'azienda per agenti IA. Il servizio legge un archivio di memoria esistente e fino a 100 sessioni passate, rimuove le voci duplicate e obsolete e crea un archivio riorganizzato lasciando intatto l'originale. Al momento del lancio supportava Claude Opus 4.7 e Sonnet 4.6. Da allora OpenAI ha preso in prestito il marchio per la propria revisione della memoria di ChatGPT a giugno, che chiama anche "Dreaming", un sistema in background che mantiene un profilo utente e corregge automaticamente le informazioni obsolete.
Il risultato generale della ricerca di Anthropic è che una memoria utile per un agente non dipende tanto dall'archiviare quanto più possibile quanto dal conservare le informazioni giuste e correggere gli errori in un secondo momento. Mentre i laboratori si affrettano a costruire agenti che possano funzionare in modo affidabile per giorni e settimane anziché minuti, la cura della memoria sta silenziosamente diventando una frontiera competitiva a sé stante. Puoi seguire gli ultimi sviluppi dell'intelligenza artificiale nella ricerca sugli agenti su AI Buzz Wire.
Stai al passo con l'intelligenza artificiale
La ricerca sugli agenti sta avanzando rapidamente e la memoria è il prossimo campo di battaglia. Ricevi tutti gli aggiornamenti, oltre agli ultimi sviluppi dell'intelligenza artificiale da tutti i principali laboratori, su AI Buzz Wire.
Leggi altre notizie sull'AI →