rtk - LLM 토큰 소비를 60~90% 줄여주는 CLI 프록시

Rust 기반의 단일 바이너리로 제공되는 rtk는 AI 코딩 도구가 실행하는 CLI 명령어의 출력을 LLM에 전달하기 전 필터링 및 압축하는 프록시 도구입니다.

주요 기능 및 특징

• 4가지 최적화 전략: 스마트 필터링, 그룹핑, 트렁케이션(Truncation), 중복 제거를 적용하여 토큰을 효율적으로 관리합니다.
• 광범위한 명령어 지원: git, grep, ls, cargo test 등 100개 이상의 명령어를 지원합니다.
• AI 도구 호환성: Claude Code, Cursor, Codex, Gemini CLI 등 10개 이상의 AI 코딩 도구를 지원하며, 셸 명령어를 rtk 명령어로 자동 재작성하는 훅(hook) 기능을 제공합니다.

기대 효과

• Claude Code 세션 기준, 약 118,000개 토큰 사용 시 약 23,900개(약 80%)로 절감이 가능합니다.
• cargo test, pytest, go test 등 테스트 러너 환경에서는 **최대 90%**까지 토큰을 절감할 수 있습니다.

고려 사항

• 데이터 압축으로 인해 LLM이 필요한 컨텍스트를 충분히 확보하지 못하는 **품질 저하(Trade-off)**가 발생할 수 있으므로, 사용 환경에 따른 주의가 필요합니다.