Sesiapa sahaja yang telah bekerja dengan ejen AI dalam projek yang menjangkau beberapa hari mengetahui dinding itu: setiap sesi baharu bermula dari awal. Dalam catatan penyelidikan baharu, Anthropic menerangkan cara Claude direka untuk mengekalkan pengetahuan merentas sesi manakala model asas kekal tidak berubah — dengan menulis nota pada folder yang boleh dibaca semula kemudian. Penemuan yang mengejutkan ialah bahagian paling sukar dalam ingatan ejen bukanlah penyimpanan. Ia adalah pemilihan.
Masalah utama, menurut Anthropic, adalah bahawa ejen perlu memutuskan pada masa ini apa yang mungkin penting kemudian, sebelum ia mengetahui perkara yang akan datang. Setiap nota adalah pertaruhan pada masa depan. Simpan terlalu sedikit dan ejen mengulangi kesilapannya; menyimpan terlalu banyak dan arkib menjadi basi, memakan konteks dan membawa ralat ke hadapan selama-lamanya.
Ujian Pokémon: 413 Fail, Satu Lencana
Untuk menggambarkan mod kegagalan, Anthropic menunjuk kepada ujian yang dijalankan di dalam Pokémon Red. Claude Sonnet 3.7, model lama, menganggap segala-galanya sebagai berpotensi penting. Merentasi kira-kira 10,000 langkah permainan, ia mencipta 413 fail yang tersebar di 225 folder — selalunya fail berasingan untuk setiap pertempuran dan item yang dihadapinya. Kerana keadaan permainan terus berubah, arkib menjadi basi hampir sepantas yang ditulis. Kadangkala, model itu tidak melakukan apa-apa selain menyusun semula notanya dan bukannya bermain, dan ia menamatkan larian dengan satu lencana.
Claude Fable 5 yang lebih baharu mengambil pendekatan yang bertentangan: ia mengehadkan ingatannya kepada segelintir fail dan memperoleh empat lencana. Fable 5 tidak merekodkan maklumat yang sudah kelihatan pada skrin, sebaliknya menulis rancangan, strategi dan peraturan yang telah diuji. Anthropic memberi amaran bahawa perbandingan itu hanya merangkumi satu playthrough bagi setiap model, jadi hasilnya adalah indikatif dan bukannya definitif — tetapi hala tujunya adalah konsisten dengan nasihat syarikat yang lebih luas.
Nasihat itu adalah untuk menerangkan tujuan ingatan kepada Claude dan biarkan model memutuskan cara menggunakannya. Dalam satu penanda aras, arahan tegar seperti "hanya merekodkan kesilapan" menghapuskan kebanyakan kelebihan untuk model yang lebih kukuh. Model lama, sebaliknya, mendapat manfaat daripada arahan yang jelas, seperti diberitahu untuk membaca nota mereka sebelum setiap respons.
Bermimpi: Mengaudit Ingatan Selepas Fakta
Risiko yang lebih besar dalam ejen jangka panjang tidak dilupakan — ia adalah mempercayai nota yang rosak. Jawapan Anthropic ialah proses yang dipanggil Dreaming, idea yang dibina berdasarkan penyelidikan dari Letta dan UC Berkeley. Sama seperti otak manusia menyatukan pengalaman semasa tidur, Claude meneliti transkrip sesi terdahulu semasa rehat dan menyemak notanya terhadap apa yang sebenarnya berlaku.
Dalam ujian Pokémon, Claude telah tersilap mencatat sisi gunung yang mana terdapat tanda tempat. Bergantung pada nota yang salah itu, ejen itu jatuh ke dalam perangkap yang sama tiga kali, akhirnya mahu berputus asa, dan terlepas matlamatnya. Selepas pas Dreaming, Claude mendapat ralat dengan menyemak nota pada transkrip dan menemui jalan yang betul.
Bermimpi juga boleh mengatur pangkalan pengetahuan yang lebih besar. Claude membina wiki terpaut daripada kira-kira 350,000 dokumen dalaman daripada Stainless, sebuah syarikat perisian yang diperoleh Anthropic, dengan Dreaming menjana halaman baharu sambil membetulkan jurang, pendua dan pautan yang rosak. Hasilnya adalah paling besar apabila Claude boleh menggabungkan wiki dengan carian, jadi memori yang dipilih susun berfungsi sebagai pelengkap kepada pengambilan dan bukannya pengganti untuknya.
Apabila Wiki Menewaskan Carian
Dalam ujian undang-undang berasingan yang dijalankan oleh Anthropic, wiki susun atur membantu paling banyak soalan yang jawapannya tersebar di beberapa dokumen. Claude mendapat 87 peratus dengan wiki, berbanding 73 peratus menggunakan carian sahaja. Untuk tugas carian mudah, wiki dilakukan secara kasar setanding dengan carian — dan dalam satu kes, ia malah menjadi lebih besar daripada dokumen sumber yang diringkaskan.
Anthropic berterus terang tentang masalah terbuka. Mencatat nota pertengahan tugas mengalihkan perhatian ejen daripada kerjanya. Memimpikan memerlukan pengiraan tambahan, dan keputusannya tiba hanya selepas penangguhan. Wiki dan nota juga memerlukan penyelenggaraan yang kerap, atau kesilapan dan halusinasi bertimbun. Dan syarikat itu memberi amaran agar tidak memuatkan terlalu banyak kenangan secara automatik ke dalam setiap sesi, kerana mereka memakan konteks dan menghantar sebarang nota buruk kepada setiap sesi akan datang.
Daripada Pratonton Penyelidikan kepada Produk
Bermimpi itu sendiri bukanlah perkara baharu: Anthropic memperkenalkannya pada bulan Mei sebagai pratonton penyelidikan untuk Agen Terurus Claude, platform awan syarikat untuk ejen AI. Perkhidmatan ini membaca stor memori sedia ada dan sehingga 100 sesi yang lalu, mengalih keluar masukan pendua dan lapuk serta mencipta stor yang disusun semula sambil membiarkan yang asal tidak disentuh. Pada pelancaran ia menyokong Claude Opus 4.7 dan Sonnet 4.6. OpenAI sejak itu telah meminjam penjenamaan itu untuk membaik pulih ingatan ChatGPT sendiri pada bulan Jun, yang juga dipanggil "Dreaming" — sistem latar belakang yang mengekalkan profil pengguna dan membetulkan maklumat lapuk secara automatik.
Kesimpulan keseluruhan daripada penyelidikan Anthropic ialah ingatan ejen yang berguna kurang bergantung pada penyimpanan sebanyak mungkin daripada menyimpan maklumat yang betul dan membetulkan kesilapan kemudian. Memandangkan makmal berlumba-lumba untuk membina ejen yang boleh bekerja dengan pasti selama beberapa hari dan minggu berbanding minit, penyusunan memori secara senyap-senyap menjadi sempadan kompetitif tersendiri. Anda boleh mengikuti perkembangan AI terkini dalam penyelidikan ejen di AI Buzz Wire.
Kekal Mendahului AI
Penyelidikan ejen berkembang dengan pantas, dan ingatan adalah medan pertempuran seterusnya. Dapatkan setiap kemas kini, serta perkembangan AI terkini daripada setiap makmal utama, di AI Buzz Wire.
Baca lebih banyak berita AI →