Zero-Mem: LLM 에이전트를 위한 제로 토큰 메모리 연산

Zero-Mem은 최종 질의응답 단계를 제외하고 LLM 호출과 입력·출력 토큰을 사용하지 않는 제로 토큰 메모리 연산을 제안한다. 기존 에이전트 메모리는 중간 기록 생성과 검색 조정에 추가 LLM 호출이 필요했지만, Zero-Mem은 원본 대화 기록을 그대로 근거로 활용한다.

메모리는 두 가지 방식으로 구성된다.

• 엔터티-컨텍스트 그래프: 여러 상호작용에 걸친 엔터티 간 연결을 노출한다.
• 시간 계층 구조: 대화의 지역성과 세션 상태를 보존한다.

질의가 들어오면 두 관점의 중요도를 조정한 뒤 양쪽에서 정보를 검색하고, 구조를 따라 관련 관계나 주변 문맥을 복원한다. 이후 결정론적 보정 과정에서 충돌하는 근거를 제거하고, 검색된 원본 기록에 답변을 연결한다. 실제 LLM은 최종 답변을 생성하는 리더(reader)만 호출된다.

장기 메모리 및 장기 컨텍스트 질의응답 벤치마크에서 Zero-Mem은 경쟁력 있는 성능을 보였다. 동일한 최종 QA 리더와 컨텍스트 예산을 사용했을 때, 가장 빠른 비교 기준선보다 메모리 연산 시간 비용을 57.6% 줄였다. 절제 실험은 두 메모리 관점과 질의별 조정 방식의 기여를 뒷받침했다.