Elasticsearch를 사용하여 Recall 0.89을 달성한 지속 가능한 Agent Memory Layer 구축

LLM 에이전트의 컨텍스트 윈도우는 단기 기억의 역할만 수행할 뿐, 세션이 종료되어도 유지되는 장기 기억(Long-term Memory) 시스템으로는 한계가 있습니다. 이를 해결하기 위해 Elasticsearch를 기반으로 한 지속 가능한 메모리 레이어를 구축했습니다.

이 아키텍처는 인지 과학의 세 가지 카테고리를 기반으로 설계되었으며, 다음과 같은 핵심 기술을 포함합니다:

• Hybrid Recall: **RRF(Reciprocal Rank Fusion)**와 Cross-encoder reranker를 결합하여 검색 정확도 향상
• Supersession: 정보 간의 모순이 발생할 경우 최신 정보로 업데이트하는 메커니즘
• DLS(Data Level Security): 사용자별 메모리 격리를 통한 보안 유지

168개의 질문으로 구성된 QA 스타일 평가 결과, R@10 기준 평균 0.89의 Recall을 기록했으며, 멀티 테넌트 환경에서의 데이터 유출 없이 안정적인 성능을 입증했습니다.