Engram 메모리 시스템 심층 분석

LLM 세션이 시작될 때마다 이전의 결정 사항이나 맥락을 다시 설명해야 하는 '콜드 스타트(cold start)' 문제는 사용자 경험을 저해하는 주요 요소다. 기존의 MEMORY.md 방식은 고정된 사실을 저장하기에는 유용하지만, 결정의 배경이나 복잡한 추론 과정을 모두 담기에는 용량과 구조 면에서 한계가 있다.

Weaviate의 벡터 검색 기술을 기반으로 구축된 Engram은 이러한 맥락의 공백을 메우기 위해 설계되었다. Engram은 단순한 텍스트 저장을 넘어, 주제별로 구조화된 메모리를 통해 LLM이 필요한 시점에 정확한 정보를 불러올 수 있도록 지원한다.

Engram은 다음과 같은 네 가지 주요 카테고리로 메모리를 구조화한다:

• communication-style: 출력 형식, 톤, 선호도 등
• domain-context: 역할, 회사, 제품 관련 지식
• tool-preferences: 언어, 프레임워크, 도구 스택
• workflow: 사용자의 작업 방식

효율적인 세션 관리를 위해 세션 시작 시 프로젝트 맥락을 불러오고, 중요한 결정이나 작업 완료 시점에 데이터를 저장하는 패턴을 사용한다. 특히 검색 효율을 극대화하기 위해 2~4문장 단위의 짧고 집중된 주제별 저장을 통해 데이터의 정밀도를 높였다.