Siapa pun yang pernah bekerja dengan agen AI dalam sebuah proyek yang berlangsung selama beberapa hari pasti tahu batasannya: setiap sesi baru dimulai dari awal. Dalam postingan penelitian baru, Anthropic menjelaskan bagaimana Claude dirancang untuk mempertahankan pengetahuan di seluruh sesi sementara model dasarnya tetap tidak berubah — dengan menulis catatan ke folder yang dapat dibaca kembali nanti. Temuan yang mengejutkan adalah bagian tersulit dari memori agen bukanlah penyimpanan. Itu adalah seleksi.

Masalah intinya, menurut Anthropic, adalah bahwa seorang agen harus segera memutuskan apa yang mungkin penting di kemudian hari, sebelum ia mengetahui apa yang akan terjadi selanjutnya. Setiap catatan adalah taruhan untuk masa depan. Simpan terlalu sedikit dan agen mengulangi kesalahannya; menyimpan terlalu banyak maka arsip menjadi basi, memakan konteks, dan meneruskan kesalahan tanpa batas waktu.

Tes Pokémon: 413 File, Satu Lencana

Untuk mengilustrasikan mode kegagalan, Anthropic menunjuk pada pengujian yang dijalankan di dalam Pokémon Red. Claude Sonnet 3.7, model lama, menganggap segala sesuatu berpotensi penting. Di sekitar 10.000 langkah permainan, ia menciptakan 413 file yang tersebar di 225 folder — sering kali merupakan file terpisah untuk setiap pertempuran dan item yang ditemuinya. Karena status permainan terus berubah, arsip menjadi basi secepat saat ditulis. Kadang-kadang, model tersebut tidak melakukan apa pun selain mengatur ulang nadanya alih-alih memainkannya, dan ia menyelesaikan larinya dengan satu lencana.

Claude Fable 5 yang lebih baru mengambil pendekatan sebaliknya: ia membatasi memorinya pada beberapa file dan memperoleh empat lencana. Fabel 5 tidak mencatat informasi yang sudah terlihat di layar, melainkan menuliskan rencana, strategi, dan aturan yang telah diuji. Anthropic memperingatkan bahwa perbandingan tersebut hanya mencakup satu permainan per model, sehingga hasilnya bersifat indikatif dan bukan definitif — namun arahnya konsisten dengan saran perusahaan yang lebih luas.

Saran tersebut adalah menjelaskan tujuan memori kepada Claude dan membiarkan model memutuskan bagaimana menggunakannya. Dalam satu benchmark, instruksi kaku seperti "hanya mencatat kesalahan" menghapus sebagian besar keunggulan model yang lebih kuat. Sebaliknya, model lama mendapat manfaat dari instruksi yang jelas, seperti diminta untuk benar-benar membaca catatan mereka sebelum memberikan tanggapan.

Bermimpi: Mengaudit Memori Setelah Fakta

Risiko yang lebih besar bagi agen yang sudah berjalan lama bukanlah lupa — melainkan mempercayai catatan yang salah. Jawaban Anthropic adalah sebuah proses yang disebut Dreaming, sebuah ide yang dibangun berdasarkan penelitian Letta dan UC Berkeley. Saat otak manusia mengkonsolidasikan pengalaman selama tidur, Claude memeriksa transkrip sesi sebelumnya saat istirahat dan membandingkan catatannya dengan apa yang sebenarnya terjadi.

Dalam tes Pokémon, Claude salah mencatat di sisi gunung mana sebuah landmark berada. Mengandalkan catatan yang salah itu, agen tersebut jatuh ke dalam perangkap yang sama sebanyak tiga kali, akhirnya ingin menyerah, dan gagal mencapai tujuannya. Setelah melewati Dreaming, Claude mengetahui kesalahan tersebut dengan memeriksa catatan tersebut terhadap transkrip dan menemukan jalan yang benar.

Bermimpi juga dapat mengatur basis pengetahuan yang jauh lebih besar. Claude membuat wiki tertaut dari sekitar 350.000 dokumen internal dari Stainless, sebuah perusahaan perangkat lunak yang diakuisisi Anthropic, dengan Dreaming menghasilkan halaman baru sambil memperbaiki celah, duplikat, dan tautan rusak. Imbalannya paling besar ketika Claude dapat menggabungkan wiki dengan pencarian, sehingga memori yang dikurasi berfungsi sebagai pelengkap pengambilan, bukan sebagai penggantinya.

Saat Wiki Mengalahkan Pencarian

Dalam tes hukum terpisah yang dilakukan oleh Anthropic, wiki yang dikurasi membantu sebagian besar pertanyaan yang jawabannya tersebar di berbagai dokumen. Claude mendapat skor 87 persen dengan wiki, dibandingkan dengan 73 persen hanya dengan menggunakan pencarian. Untuk tugas pencarian sederhana, kinerja wiki kira-kira setara dengan pencarian — dan dalam satu kasus, wiki bahkan berkembang lebih besar daripada dokumen sumber yang diringkasnya.

Anthropic berterus terang tentang permasalahan yang terbuka. Mencatat di tengah tugas mengalihkan perhatian agen dari pekerjaannya. Bermimpi membutuhkan perhitungan ekstra, dan hasilnya hanya akan muncul setelah penundaan. Wiki dan catatan juga memerlukan pemeliharaan rutin, jika tidak, kesalahan dan halusinasi akan menumpuk. Dan perusahaan memperingatkan agar tidak secara otomatis memuat terlalu banyak memori ke dalam setiap sesi, karena memori tersebut memakan konteks dan meneruskan catatan buruk ke setiap sesi berikutnya.

Dari Pratinjau Riset hingga Produk

Mimpi itu sendiri bukanlah hal baru: Anthropic memperkenalkannya pada bulan Mei sebagai pratinjau penelitian untuk Agen Terkelola Claude, platform cloud perusahaan untuk agen AI. Layanan ini membaca penyimpanan memori yang ada dan hingga 100 sesi sebelumnya, menghapus entri duplikat dan usang, dan membuat penyimpanan yang ditata ulang tanpa membiarkan yang asli tidak tersentuh. Saat peluncurannya mendukung Claude Opus 4.7 dan Sonnet 4.6. OpenAI telah meminjam merek tersebut untuk perombakan memori ChatGPT pada bulan Juni, yang juga disebut "Dreaming" — sistem latar belakang yang memelihara profil pengguna dan secara otomatis mengoreksi informasi yang sudah ketinggalan zaman.

Kesimpulan keseluruhan dari penelitian Anthropic adalah bahwa memori agen yang berguna tidak terlalu bergantung pada penyimpanan sebanyak mungkin, melainkan pada penyimpanan informasi yang benar dan memperbaiki kesalahan di kemudian hari. Saat laboratorium berlomba untuk membangun agen yang dapat bekerja dengan andal selama berhari-hari dan berminggu-minggu, bukan dalam hitungan menit, kurasi memori diam-diam menjadi batas kompetitif tersendiri. Anda dapat mengikuti perkembangan AI terkini dalam riset agen di AI Buzz Wire.

Tetap Terdepan dalam AI

Penelitian agen berkembang pesat, dan ingatan adalah medan pertempuran berikutnya. Dapatkan setiap pembaruan, ditambah perkembangan AI terkini dari setiap lab besar, di AI Buzz Wire.

Baca berita AI selengkapnya →