Context Warp Drive 오픈소스 공개

LLM 에이전트의 긴 작업 수행 시 발생하는 컨텍스트 관리 문제를 해결하기 위한 Context Warp Drive가 오픈소스로 공개되었습니다.

기존의 방식인 대규모 컨텍스트 윈도우 사용이나 LLM을 이용한 요약(Compaction) 방식은 다음과 같은 한계가 있습니다.

• 요약 방식의 한계: 요약 과정에서 UUID, 경로, 해시와 같은 필수 식별자가 누락되거나 프롬프트 캐시 효율이 저하됨
• 컨텍스트 윈도우의 한계: 컨텍스트가 길어질수록 모델의 추론 능력이 저하되는 Lost in the Middle 현상 및 성능 저하 발생

Context Warp Drive는 결정론적 폴딩(Deterministic Folding) 방식을 사용하여 컨텍스트를 관리합니다.

• 에이전트가 작업하는 동안 오래된 컨텍스트를 결정론적인 스켈레톤(Skeleton) 형태로 폴딩합니다.
• 컨텍스트 크기가 선형적으로 증가하는 대신, 효율적으로 축소와 확장을 반복하는 Sawtooth(톱니바퀴) 구조를 유지합니다.
• 이를 통해 모델이 가장 잘 추론할 수 있는 낮은 컨텍스트 대역을 유지하며, 비용을 절감하고 응답 속도를 높입니다.