Antigravity 5분 캐시 만료로 133k 토큰 소모, 바이너리 분석으로 원인 규명

·2026.11.20 08:38

핵심 내용

Antigravity의 5분 캐시 만료로 인한 토큰 과소모 문제를 바이너리 분석으로 확인했다

자세히 보기

  • Google Antigravity의 임식 프롬프트 캐시가 5분간 비활성 상태가 되면 만료되어 전체 컨텍스트 재처리와 주간 쿼타의 급격한 소모를 유발함
  • language_server와 agy CLI의 바이너리 분석을 통해 modelapiccpa/keepalive.go에 하드코딩된 4m 45s(285s) 만료 기준과 4m 30s(270s) keep-alive 핑 간격 확인
  • 현재 Gemini 모델에서는 서버 측 Mendel 플래그(enable-prompt-cache-keep-alive)와 Gemini를 제외하는 프로바이더 열거형 검사라는 두 가지 조건으로 인해 네이티브 keep-alive 메커니즘이 비활성화됨
  • 해당 조건을 패치하면 캐시 TTL을 갱신하는 백그라운드 핑이 활성화되어 16.8k 토큰 컨텍스트에서 유효 토큰 비용을 29~36% 절감하고 150k 토큰 세션에서 133,065 토큰 페널티를 방지함
  • 시스템 지시문, 도구 스키마, MCP 서버 등으로 인해 5단어 프롬프트 하나만으로도 약 16,816 토큰이 소모되어 캐시 미스 시 비용이 크게 발생함
  • /btw 사이 질문 기능은 새로운 대화 ID를 생성하고 콜드 스타트 비용(유효 토큰 21,325)을 발생시켜 캐시 유지용 표준 웜 핑보다 4.9배 비쌈
  • 콜드 미스 비용을 초과하지 않도록 16.8k 컨텍스트는 최대 3회(18분 커버리지), 150k 컨텍스트는 최대 7회(31.5분 커버리지)의 핑 예산을 설정함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.