LLM Wiki v2 (16분 분량)

LLM Wiki v2는 LLM으로 개인 지식베이스를 만드는 패턴을 운영 단계까지 끌어올린 확장판이다. Karpathy의 원래 아이디어에 더해, agentmemory와 AKBP에서 얻은 교훈을 넣어 지식을 계속 누적·갱신·공유하는 구조로 바꾼다. 핵심은 RAG처럼 검색하고 잊는 방식이 아니라, 원자료를 위키와 스키마로 컴파일해 복리처럼 쌓는 것이다.

지식에는 수명주기가 있다. 각 사실은 출처 수, 최근 확인 시점, 반박 여부를 반영한 confidence score를 가져야 하고, 시간이 지나면 자연스럽게 약해져야 한다. 새 정보가 기존 주장과 충돌하면 supersession으로 새 버전이 옛 버전을 명시적으로 대체하고, 옛 내용은 stale 상태로 보존한다.

메모리는 네 단계로 승격된다.

• Working memory: 최근 관찰
• Episodic memory: 세션 요약
• Semantic memory: 교차 세션 사실
• Procedural memory: 반복 패턴과 워크플로

반복 확인될수록 더 압축되고 더 오래 남으며, 한 번 본 사실이 아니라 실제로 작동하는 규칙으로 올라간다.

페이지 중심 구조만으로는 한계가 분명하다. 위키 위에는 typed knowledge graph를 얹어 사람, 프로젝트, 라이브러리, 결정 같은 엔티티를 추출하고 uses, depends on, contradicts, supersedes 같은 관계를 붙인다. 질의는 단순 키워드 매칭이 아니라 그래프를 따라 영향 범위를 넓게 탐색해야 하며, Redis 업그레이드의 downstream 영향처럼 연결된 사실을 놓치지 않는다.

검색도 index.md 하나로는 부족하다. 약 100~200페이지를 넘기면 색인이 길어져서 읽기 힘들어지므로, BM25, vector search, graph traversal을 합친 하이브리드 검색을 쓰고 reciprocal rank fusion으로 결과를 합친다. index.md는 사람을 위한 카탈로그로 남기되, LLM의 주 검색 엔진으로는 쓰지 않는다.

운영은 이벤트 기반이어야 한다. 새 소스가 들어오면 자동 ingest와 엔티티 추출, 그래프 갱신이 돌아가고, 세션이 시작·종료되거나 질의·memory write·스케줄 이벤트가 발생할 때도 정리와 검사가 자동으로 이어져야 한다. 주기적 lint, 보존 정책, 충돌 감지도 자동화해야 유지 비용이 급격히 줄어든다.

품질과 협업도 필수다. 모든 생성물은 점수를 매기고, lint는 깨진 참조 수정이나 고립 페이지 연결처럼 고칠 수 있는 것은 스스로 고친다. 여러 에이전트가 함께 쓰는 환경에서는 공유/개인 범위를 나누고, 민감정보는 ingest 단계에서 걸러야 하며, 모든 변경은 감사 로그로 남겨야 한다.

완료된 연구나 디버깅 세션은 crystallization으로 구조화된 digest가 되어 다시 지식베이스에 합류한다. 출력도 markdown에 국한되지 않고 표, 타임라인, 의존성 그래프, 슬라이드, JSON, CSV, 브리프 등으로 바뀔 수 있다. 결국 가장 중요한 것은 **schema 문서(AGENTS.md, CLAUDE.md)**이며, 이 문서가 엔티티·관계·품질 기준·충돌 처리·보존 규칙을 정의해 LLM을 단순 검색기가 아니라 계속 학습하는 지식 노동자로 만든다.