AI BriefingMemorilla, 16개 토큰으로 LLM 메모리 압축해 장문 컨텍스트 성능 향상
·2026.11.07 03:03
핵심 내용
Memorilla가 토큰을 108배 줄이고도 8개 벤치마크 중 5개에서 기존 방식보다 뛰어난 성능을 보였다
자세히 보기
- Memorilla는 문서를 재사용 가능한 임베딩으로 인코딩하고, 16개의 메모리 토큰만으로 동결된 LLM의 입력 임베딩 공간에 쿼리별 정보를 검색하는 메모리 시스템임
- FactKG 벤치마크에서 전체 컨텍스트 추론의 80.43% 대비 84.33%의 정확도를 달성하며, 소스 문서를 표현하는 데 필요한 토큰을 108배 절감함
- 개인화, 장문 문서, 지식 집약형 질의응답을 아우르는 8개 벤치마크 중 5개에서 Mem0, MemoRAG 등 기존 베이스라인을 상회하는 성능을 보임
- TextWorld 에이전틱 환경에서 평균 성공률을 18.6%에서 24.2%로 높이고, 이미 탐색한 방 사이를 방황하는 에이전트 경향을 감소시킴
- 문서 수가 궤적 전체에 걸쳐 증가하는 에이전틱 시스템의 지속적 학습을 용이하게 함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
