에이전트 성능 저하 없는 컨텍스트 압축 도구 Distil 공개
Distil: context compression for agents, gated by a statistical non-inferiority test — compressed context matched full context on 500 SWE-bench tasks
·2026.07.26 08:32
통계적 검증을 통해 에이전트의 의사결정 능력을 유지하며 컨텍스트를 압축하는 Distil이 공개되었습니다.
에이전트의 컨텍스트를 압축할 때 발생하는 의사결정 변화를 방지하기 위해 **통계적 비열등성 테스트(TOST/McNemar)**를 도입한 컨텍스트 압축 도구 Distil이 출시되었습니다.
주요 특징은 다음과 같습니다:
- 의사결정 등가성(Decision-equivalence) 보장: 단순한 바이트 압축이 아니라, 에이전트의 도구 호출 및 출력 결과가 변하지 않는 것을 검증하여 압축을 진행합니다.
- SWE-bench 검증: 500개의 SWE-bench Verified 태스크 테스트 결과, 전체 컨텍스트 사용 시(39.2%)와 압축 사용 시(42.0%)의 성능 차이가 통계적으로 유의미하지 않음을 입증했습니다.
- 캐시 효율성 최적화: 대화의 앞부분(Prefix)은 바이트 수준에서 안정적으로 유지하여 API 프롬프트 캐싱 효율을 높이고, 뒷부분(Tail) 위주로 압축을 수행합니다.
- 범용성: 별도의 런타임 의존성 없이 Python 3.9+ 환경에서 작동하며, Anthropic, OpenAI, Gemini 등의 API를 프록시 형태로 지원합니다.
압축 과정에서 발생할 수 있는 에이전트의 성능 저하를 통계적 가드레일로 차단하여, 비용 절감과 성능 유지를 동시에 꾀하는 것이 핵심입니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.