Každý, kdo pracoval s agentem AI na projektu trvajícím několik dní, zná zeď: každá nová relace začíná od nuly. V novém výzkumném příspěvku Anthropic popisuje, jak je Claude navržen tak, aby si uchoval znalosti během relací, zatímco základní model zůstal nezměněn – zápisem poznámek do složky, kterou si může později přečíst. Překvapivým zjištěním je, že nejtěžší částí paměti agenta není úložiště. Je to výběr.

Hlavním problémem je podle Anthropic to, že agent se musí v okamžiku rozhodnout, na čem může později záležet, než bude vědět, co přijde dál. Každá nota je sázkou na budoucnost. Skladujte příliš málo a agent opakuje své chyby; ukládat příliš mnoho a archiv zatuchne, požírá kontext a přenáší chyby donekonečna.

Test Pokémonů: 413 souborů, jeden odznak

Pro ilustraci režimu selhání Anthropic poukázal na testy probíhající uvnitř Pokémon Red. Claude Sonnet 3.7, starší model, považoval vše za potenciálně důležité. V rámci zhruba 10 000 herních kroků vytvořil 413 souborů rozmístěných ve 225 složkách – často samostatný soubor pro každou bitvu a položku, se kterou se setkal. Protože se stav hry neustále měnil, archiv zatuchl téměř tak rychle, jak byl napsán. Občas model nedělal nic jiného, ​​než že místo hraní přeorganizoval své noty a dokončil běh s jediným odznakem.

Novější Claude Fable 5 zvolil opačný přístup: omezil svou paměť na hrstku souborů a získal čtyři odznaky. Fable 5 nezaznamenával informace, které již byly vidět na obrazovce, a místo toho zapisoval plány, strategie a pravidla, které testoval. Společnost Antropic varuje, že srovnání pokrývá pouze jeden postup na model, takže výsledek je spíše orientační než definitivní – ale směr je v souladu s širšími radami společnosti.

Tou radou je vysvětlit Claudovi účel paměti a nechat model rozhodnout, jak ji použít. V jednom benchmarku strnulé pokyny typu „pouze zaznamenávat chyby“ vymazaly většinu výhod silnějších modelů. Starší modely naopak těžily z jasných instrukcí, jako bylo řečeno, aby si před každou odpovědí skutečně přečetly své poznámky.

Snění: Auditování paměti po skutečnosti

Větším rizikem u dlouhotrvajících agentů není zapomínání – je to důvěra v chybné poznámky. Odpověď Anthropic je proces, který nazývá Dreaming, myšlenka, která staví na výzkumu Letty a UC Berkeley. Stejně jako si lidský mozek upevňuje zážitky během spánku, Claude o přestávce prochází přepisy dřívějších sezení a porovnává své poznámky s tím, co se skutečně stalo.

V testu Pokémonů Claude nesprávně zaznamenal, na které straně hory je orientační bod. Spoléhal se na tuto chybnou notu, agent padl třikrát do stejné pasti, nakonec to chtěl vzdát a minul svůj cíl. Po přihrávce Dreaming Claude zachytil chybu tím, že zkontroloval poznámku s přepisem a našel správnou cestu.

Snění může také organizovat mnohem větší znalostní báze. Claude vytvořil propojenou wiki z asi 350 000 interních dokumentů od Stainless, softwarové společnosti, kterou Anthropic získal, přičemž Dreaming generoval nové stránky a zároveň opravoval mezery, duplikáty a nefunkční odkazy. Přínos byl největší, když Claude mohl spojit wiki s vyhledáváním, takže kurátorská paměť fungovala spíše jako doplněk k vyhledávání než jako náhrada za ni.

Když Wiki překonává vyhledávání

V samostatném právním testu, který provedla společnost Anthropic, kurátorská wiki nejvíce pomohla s otázkami, jejichž odpovědi byly rozptýleny ve více dokumentech. Claude dosáhl na wiki 87 procent ve srovnání se 73 procenty při použití samotného vyhledávání. Pro jednoduché vyhledávací úlohy wiki fungovala zhruba na stejné úrovni jako vyhledávání – a v jednom případě se dokonce zvětšila než zdrojové dokumenty, které shrnula.

Antropická je otevřená k otevřeným problémům. Zapisování poznámek uprostřed úkolu odvádí pozornost agenta od jeho práce. Snění stojí další výpočet a jeho výsledky se dostaví až se zpožděním. Wiki a poznámky také potřebují pravidelnou údržbu, jinak se hromadí chyby a halucinace. A společnost varuje před automatickým načítáním příliš mnoha vzpomínek do každé relace, protože pohlcují kontext a předávají jakoukoli špatnou poznámku do každé budoucí relace.

Od náhledu výzkumu k produktu

Snění samo o sobě není nic nového: Anthropic jej představil v květnu jako ukázku výzkumu pro Claude Managed Agents, firemní cloudovou platformu pro agenty AI. Služba čte existující paměťové úložiště a až 100 minulých relací, odstraňuje duplicitní a zastaralé záznamy a vytváří reorganizované úložiště, přičemž původní zůstává nedotčeno. Při spuštění podporoval Claude Opus 4.7 a Sonnet 4.6. OpenAI si od té doby vypůjčila značku pro svou vlastní opravu paměti ChatGPT v červnu, kterou také nazývá „Dreaming“ – systém na pozadí, který udržuje uživatelský profil a automaticky opravuje zastaralé informace.

Celkový závěr z výzkumu společnosti Anthropic je, že užitečná paměť agentů závisí méně na uložení co největšího množství, než na uchování správných informací a pozdější opravě chyb. Jak se laboratoře předhánějí ve vytváření agentů, kteří dokážou spolehlivě pracovat dny a týdny, nikoli minuty, kurátorství paměti se tiše stává samo o sobě konkurenční hranicí. Nejnovější vývoj AI ve výzkumu agentů můžete sledovat na [AI Buzz Wire] (https://aibuzzwire.news).

Udržujte si náskok před AI

Výzkum agentů rychle postupuje a paměť je dalším bojištěm. Získejte každou aktualizaci a nejnovější vývoj AI z každé velké laboratoře na [AI Buzz Wire] (https://aibuzzwire.news).

Přečtěte si další zprávy o AI →