LLM 코드 탐색 시 컨텍스트 54% 증가
We gave an LLM a structural graph of a codebase before exploring. It used 54% MORE context than without one. Paper + explanation inside [R]
LLM에 코드베이스 구조 그래프를 제공하면 모델의 탐색 깊이가 깊어져 컨텍스트 사용량이 약 54% 증가한다.
TypeScript 워크스페이스(3,250개 파일)를 대상으로 한 A/B 테스트 결과, **구조적 그래프(Blueprint)**를 활용한 LLM이 그렇지 않은 경우보다 더 많은 컨텍스트를 사용하며 더 깊이 있게 탐색하는 것으로 나타났다.
주요 실험 결과는 다음과 같다:
- 그래프 사용 시: 63,541개 토큰 사용 (6회의 도구 호출)
- 그래프 미사용 시: 41,327개 토큰 사용 (5회의 도구 호출)
이는 구조적 그래프가 단순한 오버헤드가 아니라, 모델의 **탐색 자신감(navigational confidence)**을 높여 더 많은 내부 함수명을 찾아내고 깊은 범위까지 코드를 탐색하도록 유도하기 때문이다. 연구진은 구조적 이해(structural understanding) 비용과 실행 컨텍스트(execution context) 비용이 분리될 수 있다는 점을 시사했다.
또한, 개별 read_file 결과에 대해 95~98%의 압축률을 보이는 사후 도구 결과 요약(post-turn tool-result summarisation) 메커니즘을 통해 실행 레이어의 효율성을 높이는 방법도 함께 제시했다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.