SWE-Pruner Pro: 에이전트 내부 표현을 활용한 컨텍스트 프루닝

코딩 에이전트의 효율적인 컨텍스트 관리를 위해 기존의 별도 분류기 방식 대신, **에이전트 자체의 내부 표현(internal representations)**을 활용하는 SWE-Pruner Pro를 제안한다.

핵심 메커니즘은 다음과 같다:

• 에이전트가 도구(tool) 출력을 읽을 때 생성되는 내부 표현을 기반으로, 각 라인을 유지하거나 삭제할지 결정하는 **작은 헤드(small head)**를 사용한다.
• 각 도구 출력의 라인 수에 맞춘 **길이 인식 임베딩(length-aware embedding)**을 적용한다.

주요 성과는 다음과 같다:

• 두 개의 오픈 웨이트 백본과 4개의 멀티 턴 벤치마크에서 테스트한 결과, 작업 품질을 유지하면서 프롬프트 및 완료 토큰을 최대 39% 절감했다.
• 추론 오버헤드를 제한적으로 유지하면서도 성능을 확보했다.
• 특히 MiMo-V2-Flash 모델에서 SWE-Bench Verified 해결률을 3.8%, Oolong 정확도를 2.2 포인트 향상시키는 성과를 보였다.