Bất kỳ ai đã từng làm việc với nhân viên AI trong một dự án kéo dài vài ngày đều biết bức tường: mỗi phiên mới đều bắt đầu lại từ đầu. Trong một bài nghiên cứu mới, Anthropic mô tả cách Claude được thiết kế để lưu giữ kiến ​​thức qua các phiên trong khi mô hình cơ bản không thay đổi – bằng cách viết ghi chú vào một thư mục mà nó có thể đọc lại sau. Phát hiện đáng ngạc nhiên là phần khó nhất của bộ nhớ tác nhân không phải là việc lưu trữ. Đó là sự lựa chọn.

Vấn đề cốt lõi, theo Anthropic, là một tác nhân phải quyết định ngay lập tức điều gì có thể quan trọng sau đó, trước khi nó biết điều gì sẽ xảy ra tiếp theo. Mỗi ghi chú là một sự đánh cược vào tương lai. Lưu trữ quá ít và đại lý lặp lại sai lầm của mình; lưu trữ quá nhiều và kho lưu trữ trở nên cũ kỹ, ăn mất ngữ cảnh và mang các lỗi về phía trước vô thời hạn.

Bài kiểm tra Pokémon: 413 Tệp, Một Huy Hiệu

Để minh họa chế độ thất bại, Anthropic đã chỉ ra các thử nghiệm chạy bên trong Pokémon Red. Claude Sonnet 3.7, một mô hình cũ hơn, coi mọi thứ đều có khả năng quan trọng. Trong khoảng 10.000 bước trò chơi, nó tạo ra 413 tệp trải rộng trên 225 thư mục - thường là một tệp riêng biệt cho mỗi trận chiến và vật phẩm mà nó gặp phải. Vì trạng thái trò chơi liên tục thay đổi nên kho lưu trữ trở nên cũ kỹ nhanh chóng như khi nó được viết ra. Đôi khi, mô hình không làm gì khác ngoài việc sắp xếp lại các ghi chú của mình thay vì chơi và kết thúc cuộc chạy với một huy hiệu duy nhất.

Claude Fable 5 mới hơn có cách tiếp cận ngược lại: nó giới hạn bộ nhớ ở một số ít tệp và kiếm được bốn huy hiệu. Fable 5 không ghi lại thông tin đã hiển thị trên màn hình mà thay vào đó viết ra các kế hoạch, chiến lược và quy tắc mà nó đã thử nghiệm. Anthropic cảnh báo rằng việc so sánh chỉ bao gồm một lần phát duy nhất trên mỗi mô hình, do đó, kết quả mang tính biểu thị chứ không phải dứt khoát - nhưng hướng đi phù hợp với lời khuyên rộng hơn của công ty.

Lời khuyên đó là hãy giải thích mục đích của trí nhớ cho Claude và để người mẫu quyết định cách sử dụng nó. Trong một tiêu chuẩn, các hướng dẫn cứng nhắc như "chỉ ghi lại lỗi" đã xóa bỏ hầu hết lợi thế của các mẫu máy mạnh hơn. Ngược lại, những mô hình cũ hơn được hưởng lợi từ các hướng dẫn rõ ràng, chẳng hạn như được yêu cầu thực sự đọc ghi chú của họ trước mỗi phản hồi.

Nằm mơ: Kiểm tra trí nhớ sau sự việc

Rủi ro lớn hơn đối với các đại lý hoạt động lâu dài không phải là quên - đó là tin tưởng vào các ghi chú bị lỗi. Câu trả lời của Anthropic là một quá trình được gọi là Mơ mộng, một ý tưởng được xây dựng dựa trên nghiên cứu của Letta và UC Berkeley. Giống như bộ não con người củng cố những trải nghiệm trong khi ngủ, Claude xem lại bản ghi của những buổi học trước đó trong giờ giải lao và kiểm tra các ghi chú của nó với những gì thực sự đã xảy ra.

Trong bài kiểm tra Pokémon, Claude đã ghi nhầm cột mốc nằm ở phía nào của ngọn núi. Dựa vào tờ ghi chú sai lầm đó, người đặc vụ đã ba lần rơi vào cùng một cái bẫy, cuối cùng muốn bỏ cuộc và không đạt được mục tiêu. Sau khi vượt qua Dreaming, Claude đã phát hiện ra lỗi khi kiểm tra ghi chú với bản ghi và tìm ra đường đi đúng.

Giấc mơ cũng có thể tổ chức những cơ sở kiến ​​thức lớn hơn nhiều. Claude đã xây dựng một wiki được liên kết từ khoảng 350.000 tài liệu nội bộ của Inox, một công ty phần mềm được Anthropic mua lại, với Dreaming tạo ra các trang mới đồng thời sửa các khoảng trống, trùng lặp và liên kết bị hỏng. Lợi ích lớn nhất là khi Claude có thể kết hợp wiki với tìm kiếm, do đó bộ nhớ được quản lý hoạt động như một phần bổ sung cho việc truy xuất hơn là thay thế nó.

Khi Wiki đánh bại Tìm kiếm

Trong một thử nghiệm pháp lý riêng biệt do Anthropic thực hiện, một wiki được tuyển chọn đã giúp ích nhiều nhất cho các câu hỏi có câu trả lời trải rộng trên nhiều tài liệu. Claude đạt 87% điểm với wiki, so với 73% chỉ sử dụng tìm kiếm. Đối với các tác vụ tra cứu đơn giản, wiki thực hiện gần như ngang bằng với tìm kiếm — và trong một trường hợp, nó thậm chí còn phát triển lớn hơn cả các tài liệu nguồn mà nó tóm tắt.

Anthropic thẳng thắn về những vấn đề còn ngỏ. Việc ghi chép giữa nhiệm vụ sẽ khiến nhân viên mất tập trung vào công việc của mình. Việc mơ mộng đòi hỏi phải tính toán nhiều hơn và kết quả của nó chỉ đến sau một thời gian trì hoãn. Wiki và ghi chú cũng cần được bảo trì thường xuyên, nếu không sẽ có sai sót và ảo giác chồng chất. Và công ty cảnh báo không nên tự động tải quá nhiều ký ức vào mỗi phiên vì chúng ăn hết ngữ cảnh và chuyển bất kỳ ghi chú xấu nào sang mỗi phiên trong tương lai.

Từ bản xem trước nghiên cứu đến sản phẩm

Bản thân giấc mơ không phải là mới: Anthropic đã giới thiệu nó vào tháng 5 dưới dạng bản xem trước nghiên cứu cho Claude Managed Agents, nền tảng đám mây của công ty dành cho các đại lý AI. Dịch vụ này đọc kho lưu trữ bộ nhớ hiện có và tối đa 100 phiên trước đây, xóa các mục trùng lặp và lỗi thời, đồng thời tạo một kho lưu trữ được sắp xếp lại trong khi vẫn giữ nguyên bản gốc. Khi ra mắt, nó hỗ trợ Claude Opus 4.7 và Sonnet 4.6. OpenAI kể từ đó đã mượn nhãn hiệu này để đại tu bộ nhớ ChatGPT của riêng mình vào tháng 6, mà nó còn gọi là "Dreaming" - một hệ thống nền duy trì hồ sơ người dùng và tự động sửa thông tin lỗi thời.

Điểm rút ra từ nghiên cứu của Anthropic là bộ nhớ tác nhân hữu ích ít phụ thuộc vào việc lưu trữ càng nhiều càng tốt mà phụ thuộc vào việc lưu giữ thông tin chính xác và sửa lỗi sau này. Khi các phòng thí nghiệm chạy đua để xây dựng các tác nhân có thể hoạt động đáng tin cậy trong nhiều ngày và nhiều tuần thay vì vài phút, việc quản lý bộ nhớ đang âm thầm trở thành một biên giới cạnh tranh của riêng nó. Bạn có thể theo dõi những phát triển AI mới nhất trong nghiên cứu tác nhân tại AI Buzz Wire.

Đi trước AI

Nghiên cứu tác nhân đang tiến triển nhanh chóng và trí nhớ là chiến trường tiếp theo. Nhận mọi bản cập nhật, cùng với những phát triển AI mới nhất từ ​​mọi phòng thí nghiệm lớn, tại AI Buzz Wire.

Đọc thêm tin tức về AI →