Oricine a lucrat cu un agent AI la un proiect care se întinde pe mai multe zile cunoaște peretele: fiecare nouă sesiune începe de la zero. Într-o nouă postare de cercetare, Anthropic descrie modul în care Claude este conceput pentru a păstra cunoștințele pe parcursul sesiunilor, în timp ce modelul de bază rămâne neschimbat - scriind note într-un folder pe care îl poate citi mai târziu. Descoperirea surprinzătoare este că cea mai grea parte a memoriei agentului nu este stocarea. Este o selecție.
Problema de bază, conform lui Anthropic, este că un agent trebuie să decidă pe moment ce ar putea conta mai târziu, înainte de a ști ce urmează. Fiecare bilet este un pariu pe viitor. Depozitați prea puțin și agentul își repetă greșelile; stocați prea mult și arhiva devine învechită, mănâncă contextul și transmite erorile pe termen nelimitat.
Testul Pokémon: 413 fișiere, o insignă
Pentru a ilustra modul de eșec, Anthropic a indicat testele efectuate în interiorul Pokémon Red. Claude Sonnet 3.7, un model mai vechi, a tratat totul ca fiind potențial important. În aproximativ 10.000 de pași de joc, a creat 413 fișiere răspândite în 225 de foldere - adesea un fișier separat pentru fiecare bătălie și obiect pe care l-a întâlnit. Deoarece starea jocului s-a tot schimbat, arhiva s-a învechit aproape la fel de repede cum a fost scrisă. Uneori, modelul nu a făcut altceva decât să-și reorganizeze notele în loc să cânte și a încheiat cursa cu o singură insignă.
Mai nou Claude Fable 5 a adoptat o abordare opusă: și-a limitat memoria la o mână de fișiere și a câștigat patru insigne. Fable 5 nu a înregistrat informații care erau deja vizibile pe ecran și, în schimb, a notat planurile, strategiile și regulile pe care le testase. Antropic avertizează că comparația acoperă doar o singură redare per model, astfel încât rezultatul este mai degrabă indicativ decât definitiv - dar direcția este în concordanță cu sfatul mai amplu al companiei.
Acest sfat este să îi explici lui Claude scopul memoriei și să-l lași pe model să decidă cum să o folosească. Într-un punct de referință, instrucțiuni rigide precum „înregistrați doar greșelile” au șters majoritatea avantajului pentru modelele mai puternice. Modelele mai vechi, în schimb, au beneficiat de instrucțiuni clare, cum ar fi să li se spună să-și citească notele înainte de fiecare răspuns.
Visarea: Auditarea memoriei după fapt
Riscul mai mare în agenții de lungă durată nu este uitarea - este încrederea în notele defecte. Răspunsul lui Anthropic este un proces pe care îl numește Dreaming, o idee care se bazează pe cercetările de la Letta și UC Berkeley. La fel cum creierul uman consolidează experiențele în timpul somnului, Claude parcurge transcrierile sesiunilor anterioare în timpul unei pauze și își verifică notele față de ceea ce sa întâmplat de fapt.
În testul Pokémon, Claude a notat incorect pe ce parte a unui munte se afla un reper. Bazându-se pe acea notă defectuoasă, agentul a căzut în aceeași capcană de trei ori, în cele din urmă a vrut să renunțe și și-a ratat obiectivul. După o trecere la Dreaming, Claude a prins eroarea verificând nota cu transcrierea și a găsit calea corectă.
Visarea poate organiza și baze de cunoștințe mult mai mari. Claude a construit un wiki legat din aproximativ 350.000 de documente interne de la Stainless, o companie de software achiziționată de Anthropic, Dreaming generând noi pagini în timp ce remedia lacunele, duplicatele și linkurile întrerupte. Beneficiul a fost cel mai mare atunci când Claude a putut combina wiki-ul cu căutarea, așa că memoria curată a funcționat mai degrabă ca o completare a regăsirii decât ca un înlocuitor.
Când un Wiki bate căutarea
Într-un test juridic separat efectuat de Anthropic, un wiki curatat a ajutat cel mai mult la întrebările ale căror răspunsuri au fost răspândite în mai multe documente. Claude a obținut 87 la sută cu wiki, comparativ cu 73 la sută folosind doar căutarea. Pentru sarcini simple de căutare, wiki-ul a efectuat aproximativ la egalitate cu căutarea - și într-un caz chiar a crescut mai mare decât documentele sursă pe care le-a rezumat.
Antropic este sincer cu privire la problemele deschise. Luarea notițelor la mijlocul sarcinii distrage atenția agentului de la activitatea sa. Visarea costă un calcul suplimentar, iar rezultatele sale ajung doar după o întârziere. Wiki-urile și notele au nevoie, de asemenea, de întreținere regulată, sau erorile și halucinațiile se adună. Și compania avertizează împotriva încărcării automate a prea multor amintiri în fiecare sesiune, deoarece acestea consumă context și transmit orice notă proastă la fiecare sesiune viitoare.
De la Previzualizarea cercetării la Produs
Visul în sine nu este nou: Anthropic l-a introdus în mai ca o previzualizare a cercetării pentru Claude Managed Agents, platforma cloud a companiei pentru agenții AI. Serviciul citește un depozit de memorie existent și până la 100 de sesiuni anterioare, elimină intrările duplicate și învechite și creează un magazin reorganizat, lăsând originalul neatins. La lansare a suportat Claude Opus 4.7 și Sonnet 4.6. De atunci, OpenAI a împrumutat branding-ul pentru propria sa revizuire a memoriei ChatGPT în iunie, pe care îl numește și „Dreaming” – un sistem de fundal care menține un profil de utilizator și corectează automat informațiile învechite.
Concluzia generală a cercetării Anthropic este că o memorie de agent utilă depinde mai puțin de stocarea cât mai mult posibil decât de păstrarea informațiilor corecte și de corectarea greșelilor mai târziu. Pe măsură ce laboratoarele se întrec pentru a construi agenți care pot funcționa în mod fiabil zile și săptămâni mai degrabă decât minute, curatarea memoriei devine în liniște o frontieră competitivă proprie. Puteți urmări cele mai recente evoluții AI în cercetarea agenților la AI Buzz Wire.
Rămâi înaintea AI
Cercetarea agenților avansează rapid, iar memoria este următorul câmp de luptă. Obțineți fiecare actualizare, plus cele mai recente dezvoltări AI din fiecare laborator important, la AI Buzz Wire.
Citiți mai multe știri AI →