코드를 이미지로 변환하고 모델이 OCR하도록 하여 Fable 비용 60% 절감

pxpipe는 Claude Code와 같은 AI 코딩 도구의 입력 토큰 비용을 절감하기 위해 개발된 로컬 프록시 도구입니다. 이 기술은 시스템 프롬프트, 도구 문서, 이전 대화 기록과 같이 텍스트 양이 많은 컨텍스트를 PNG 이미지로 렌더링하여 모델에 전달합니다.

이미지 토큰 비용은 텍스트 양이 아닌 픽셀 크기에 따라 고정되므로, 밀도가 높은 텍스트 데이터(코드, JSON 등)를 이미지로 변환할 때 효율이 극대화됩니다. 실제 사례에 따르면 약 25,000개의 텍스트 토큰을 2,700개의 이미지 토큰으로 압축할 수 있습니다.

주요 특징 및 성과는 다음과 같습니다:

• 비용 절감: Fable API 가격 기준, 엔드 투 엔드 비용을 약 59~70% 절감하는 효과가 있습니다.
• 컨텍스트 효율성: 대규모 컨텍스트를 이미지로 처리함으로써 모델의 컨텍스트 창(Context Window) 점유율을 낮춥니다.
• 정확도: Fable 5 모델 기준, 이미지로 변환된 복잡한 데이터에 대해 100/100의 높은 읽기 정확도를 보여줍니다.
• 작동 방식: 텍스트를 화이트스페이스 최소화 및 행 바꿈(↵) 표시를 포함한 고밀도 이미지로 재구성하여 모델이 OCR 방식으로 읽도록 유도합니다.