며칠에 걸쳐 프로젝트에서 AI 에이전트와 함께 작업한 사람이라면 모든 새로운 세션이 처음부터 시작된다는 벽을 알고 있습니다. 새로운 연구 게시물에서 Anthropic은 나중에 다시 읽을 수 있는 폴더에 메모를 작성하여 기본 모델은 변경되지 않은 채 세션 전반에 걸쳐 지식을 유지하도록 Claude가 어떻게 설계되었는지 설명합니다. 놀라운 사실은 에이전트 메모리의 가장 어려운 부분이 저장이 아니라는 것입니다. 선택입니다.
Anthropic에 따르면 핵심 문제는 에이전트가 다음에 무엇이 올지 알기 전에 나중에 중요한 것이 무엇인지 그 순간에 결정해야 한다는 것입니다. 모든 메모는 미래에 대한 내기입니다. 너무 적게 저장하면 에이전트가 실수를 반복합니다. 너무 많이 저장하면 아카이브가 오래되고 컨텍스트를 소모하며 오류가 무한정 전달됩니다.
포켓몬 테스트: 파일 413개, 배지 1개
실패 모드를 설명하기 위해 Anthropic은 Pokémon Red 내부에서 실행되는 테스트를 지적했습니다. 이전 모델인 Claude Sonnet 3.7은 모든 것을 잠재적으로 중요하게 취급했습니다. 대략 10,000개의 게임 단계에 걸쳐 225개의 폴더에 분산된 413개의 파일을 생성했습니다. 이는 종종 모든 전투와 아이템에 대해 별도의 파일이 생성되는 경우가 많습니다. 게임 상태가 계속 바뀌기 때문에 아카이브는 기록되는 속도만큼 빠르게 오래되었습니다. 가끔 모델은 연주는커녕 음을 정리하는 것 외에는 아무것도 하지 않았고, 뱃지 하나로 달리기를 마쳤습니다.
최신 Claude Fable 5는 반대 접근 방식을 취했습니다. 메모리를 소수의 파일로 제한하고 4개의 배지를 획득했습니다. Fable 5는 이미 화면에 보이는 정보를 기록하지 않고 대신 테스트한 계획, 전략, 규칙을 기록했습니다. Anthropic은 비교가 모델당 단일 플레이스루에만 적용되므로 결과는 결정적이라기보다는 암시적이지만 방향은 회사의 광범위한 조언과 일치한다고 주의합니다.
그 조언은 클로드에게 기억의 목적을 설명하고 모델이 그것을 사용하는 방법을 결정하게 하라는 것입니다. 한 벤치마크에서는 "실수만 기록"과 같은 엄격한 지침으로 인해 더 강력한 모델의 장점이 대부분 사라졌습니다. 대조적으로, 이전 모델은 모든 응답 전에 실제로 메모를 읽으라는 지시와 같은 명확한 지침의 이점을 얻었습니다.
꿈 꾸기: 사실 이후의 기억 감사
장기 실행 에이전트의 더 큰 위험은 망각이 아니라 잘못된 메모를 신뢰하는 것입니다. Anthropic의 대답은 Letta와 UC Berkeley의 연구를 기반으로 한 아이디어인 Dreaming이라고 부르는 프로세스입니다. 인간의 두뇌가 수면 중 경험을 통합하는 것처럼 Claude는 휴식 시간 동안 이전 세션의 기록을 검토하고 실제로 일어난 일과 비교하여 메모를 확인합니다.
포켓몬 테스트에서 클로드는 랜드마크가 산의 어느 쪽에 있는지 잘못 기록했습니다. 그 잘못된 메모에 의지하여 에이전트는 세 번이나 같은 함정에 빠졌고 결국 포기하려고 했고 목표를 놓쳤습니다. Dreaming 패스 후 Claude는 기록과 메모를 확인하여 오류를 포착하고 올바른 경로를 찾았습니다.
꿈을 꾸는 것은 훨씬 더 큰 지식 기반을 구성할 수도 있습니다. Claude는 Anthropic이 인수한 소프트웨어 회사인 스테인레스의 내부 문서 약 350,000개로 연결된 위키를 구축했으며 Dreaming은 공백, 중복 및 끊어진 링크를 수정하면서 새 페이지를 생성했습니다. Claude가 위키를 검색과 결합할 수 있을 때 보상이 가장 컸으며, 따라서 선별된 메모리는 검색을 대체하기보다는 보완하는 역할을 했습니다.
위키가 검색을 능가할 때
Anthropic이 실시한 별도의 법적 테스트에서 엄선된 위키는 답변이 여러 문서에 분산되어 있는 질문에 대해 가장 큰 도움을 주었습니다. Claude는 위키를 사용했을 때 87%의 점수를 얻었고, 검색만 사용한 경우에는 73%의 점수를 얻었습니다. 간단한 조회 작업의 경우 Wiki는 검색과 거의 비슷한 성능을 발휘했으며 어떤 경우에는 요약한 소스 문서보다 규모가 더 커졌습니다.
Anthropic은 공개된 문제에 대해 솔직합니다. 작업 중에 메모를 하면 상담원이 작업에 집중하는 데 방해가 됩니다. 꿈꾸는 데는 추가 컴퓨팅 비용이 들고 그 결과는 지연 후에만 도착합니다. Wiki와 메모도 정기적인 유지 관리가 필요합니다. 그렇지 않으면 오류와 환각이 쌓입니다. 그리고 회사는 모든 세션에 너무 많은 메모리를 자동으로 로드하지 말라고 경고합니다. 왜냐하면 메모리가 컨텍스트를 소모하고 모든 향후 세션에 나쁜 메모를 전달하기 때문입니다.
연구 미리보기부터 제품까지
꿈꾸는 것 자체는 새로운 것이 아닙니다. Anthropic은 지난 5월 AI 에이전트를 위한 회사의 클라우드 플랫폼인 Claude Managed Agents에 대한 연구 미리 보기로 이를 도입했습니다. 이 서비스는 기존 메모리 저장소와 최대 100개의 이전 세션을 읽고, 중복되고 오래된 항목을 제거하고, 원본을 그대로 유지하면서 재구성된 저장소를 생성합니다. 출시 당시 Claude Opus 4.7 및 Sonnet 4.6을 지원했습니다. OpenAI는 지난 6월 ChatGPT의 자체 메모리 점검을 위해 브랜딩을 차용했습니다. 이 브랜드는 사용자 프로필을 유지하고 오래된 정보를 자동으로 수정하는 백그라운드 시스템인 "Dreaming"이라고도 합니다.
Anthropic의 연구에서 전반적으로 얻을 수 있는 점은 유용한 에이전트 메모리는 올바른 정보를 유지하고 나중에 실수를 수정하는 것보다 가능한 한 많이 저장하는 것에 덜 의존한다는 것입니다. 실험실이 몇 분이 아닌 며칠, 몇 주 동안 안정적으로 작동할 수 있는 에이전트를 구축하기 위해 경쟁함에 따라 메모리 큐레이션은 조용히 그 자체로 경쟁의 선두주자가 되고 있습니다. AI Buzz Wire에서 에이전트 연구의 최신 AI 개발을 확인할 수 있습니다.
AI보다 앞서 나가세요
에이전트 연구는 빠르게 발전하고 있으며 메모리는 다음 전쟁터입니다. AI Buzz Wire에서 모든 업데이트와 모든 주요 연구실의 최신 AI 개발 정보를 받아보세요.
AI 뉴스 자세히 보기 →