OKF Agent Memory 공개, 벡터 DB 없이 토큰 80% 절감

Google의 Open Knowledge Format(OKF) v0.2 명세를 따르는 새로운 도구 OKF Agent Memory가 공개되었습니다. 이 도구는 벡터 데이터베이스 없이 Git 저장소 내 knowledge/ 디렉토리의 마크다운 파일(YAML front matter 포함)을 활용해 AI 코딩 에이전트의 장기 기억을 관리합니다.

핵심 메커니즘 및 기술 스택

기존 CLAUDE.md나 AGENTS.md 방식은 파일이 커질수록 매 요청마다 전체 내용이 프롬프트에 포함되어 비효율적이었습니다. OKF Agent Memory는 Progressive Disclosure(점진적 공개) 방식을 적용하여 질의와 관련된 개념 파일만 검색해 프롬프트에 투입합니다.

• 기술 스택: 외부 의존성이 없는 순수 Go 언어로 작성된 단일 실행 파일입니다.
• 검색 엔진: 외부 임베딩 API 없이 메모리 내 BM25 점수 기반 검색을 수행합니다.
• 연동: Model Context Protocol(MCP) 서버 역할을 수행하여 Claude Code, Cursor 등과 연결할 수 있습니다.
• 신뢰 구분: YAML front matter를 통해 generated(추측)와 verified(사람 확인) 등급을 형식화하여 정보의 신뢰도를 관리합니다.

성능 벤치마크 결과

문서 전체를 입력하는 방식과 관련 개념만 검색하여 입력하는 방식을 9개 모델로 비교 측정했습니다.

• 토큰 절감: 입력 토큰이 약 80% 감소했습니다 (3,034개 → 603개).
• 지연 시간: 모델별 차이는 있으나 첫 토큰 지연이 **1.1배(gpt-5.6-sol)**에서 **5.2배(ministral-3-14b)**까지 단축되었습니다.
• 로컬 추론: 로컬 모델(prism-ml/bonsai-27b 등)에서는 프롬프트 사전 계산 절감 효과로 3.8~4.7배 가속이 확인되었습니다.
• 정책 준수: 암호화 정책 등 4개 항목의 준수 여부는 두 방식 모두 통과했습니다.

한계 및 설치

현재 한국어 검색은 지원되지 않습니다. pkg/okf/search.go의 tokenize 로직이 영문과 숫자만 처리하므로 한글 질의 시 결과가 나오지 않습니다. 설치는 make build를 통해 bin/okf 실행 파일을 생성하며, GitHub, 홈페이지, Homebrew를 지원합니다. 라이선스는 MIT입니다.