기억하는 에이전트: Agent Memory 소개

Cloudflare는 에이전트가 더 나은 결과를 내기 위해서는 더 큰 context window보다 적절한 기억 관리가 중요하다고 본다. 아무리 100만 토큰을 넘는 window가 있어도 context rot 문제는 남아 있고, 전부 넣거나 전부 버리는 방식은 둘 다 한계가 있다.

그래서 Agent Memory를 private beta로 공개했다. 대화에서 정보를 추출해 별도 memory profile에 저장하고, 필요할 때 다시 꺼내 쓰는 managed service다. profile은 이름으로 주소 지정되며, 핵심 동작은 ingest, remember, recall, list, forget으로 나뉜다.

구조는 retrieval 기반이며, agent가 저장 전략을 직접 설계하도록 두지 않는 점이 핵심이다. Cloudflare는 이런 제약이 비용과 성능뿐 아니라, temporal logic, supersession, instruction following 같은 운영 환경의 추론 문제에도 더 낫다고 설명한다. 또 memory는 export 가능해, 사용자가 벤더에 묶이지 않도록 하겠다고 강조한다.

동작 방식은 다음과 같다.

• compaction 시 하네스가 대화를 보내면 bulk ingestion이 일어나고, 메시지에서 facts, events, instructions, tasks를 추출한다.
• 각 메시지는 session ID, role, content를 해시한 content-addressed ID를 받아 중복 ingest를 idempotent하게 처리한다.
• extractor는 약 10K characters 단위의 full pass와, 더 긴 대화에서는 구체값을 보완하는 detail pass를 병렬로 돌린다.
• verifier는 entity, location, temporal, organizational, relational context 등 8개 체크로 사실을 검증한다.
• facts와 instructions는 topic key로 묶여 새 항목이 들어오면 기존 memory를 지우지 않고 supersede한다.

retrieval도 다중 채널로 구성된다. Porter stemming 기반 full-text search, exact fact-key lookup, raw message search, direct vector search, HyDE vector search를 병렬로 실행한 뒤 Reciprocal Rank Fusion (RRF) 으로 합친다. 특히 fact-key match에 가장 높은 가중치를 주고, raw message는 추출이 놓친 단서를 잡는 안전망으로 남긴다.

활용처는 넓다. Claude Code 같은 coding agent, 자체 harness, 장기 실행되는 background agent, 그리고 팀 단위의 공유 memory까지 지원한다. 결과적으로 한 사람이나 한 에이전트의 경험이 일회성 대화에 묶이지 않고, 재사용 가능한 조직 자산으로 축적된다.