LLM 지식 유지력을 높이는 메모리 도구 ICM 공개

새로운 오픈소스 메모리 도구인 ICM이 공개되었습니다. 이 도구는 AI 에이전트가 방대한 기술 문서의 특정 사실을 여러 세션에 걸쳐 기억하고 회상할 수 있도록 설계되었습니다.

주요 성능 지표 (Knowledge Retention): ICM을 적용했을 때 모델의 지식 유지 능력이 비약적으로 상승했습니다.

• Qwen2.5-14B: 4% → 97% (+93%p)
• Llama-3.1-8B: 4% → 93% (+89%p)
• Mistral-7B: 4% → 93% (+89%p)
• Llama-3.2-3B: 0% → 76% (+76%p)

이 도구는 코드 검색뿐만 아니라 일반 문서 지원도 가능하며, 에이전트가 문서 데이터베이스에서 유용한 정보를 효율적으로 추출하여 지능을 높이는 데 기여합니다. 이를 통해 불필요한 토큰 소모를 줄이고 에이전트의 작업 효율을 극대화할 수 있습니다.