LLM 코드 탐색 시 컨텍스트 54% 증가
We gave an LLM a structural graph of a codebase before exploring. It used 54% MORE context than without one. Paper + explanation inside [R]
핵심 내용
LLM에 코드베이스 구조 그래프를 제공하면 모델의 탐색 깊이가 깊어져 컨텍스트 사용량이 약 54% 증가한다.
자세히 보기
TypeScript 워크스페이스(3,250개 파일)를 대상으로 한 A/B 테스트 결과, **구조적 그래프(Blueprint)**를 활용한 LLM이 그렇지 않은 경우보다 더 많은 컨텍스트를 사용하며 더 깊이 있게 탐색하는 것으로 나타났다.
주요 실험 결과는 다음과 같다:
- 그래프 사용 시: 63,541개 토큰 사용 (6회의 도구 호출)
- 그래프 미사용 시: 41,327개 토큰 사용 (5회의 도구 호출)
이는 구조적 그래프가 단순한 오버헤드가 아니라, 모델의 **탐색 자신감(navigational confidence)**을 높여 더 많은 내부 함수명을 찾아내고 깊은 범위까지 코드를 탐색하도록 유도하기 때문이다. 연구진은 구조적 이해(structural understanding) 비용과 실행 컨텍스트(execution context) 비용이 분리될 수 있다는 점을 시사했다.
또한, 개별 read_file 결과에 대해 95~98%의 압축률을 보이는 사후 도구 결과 요약(post-turn tool-result summarisation) 메커니즘을 통해 실행 레이어의 효율성을 높이는 방법도 함께 제시했다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.