Claude Code 조직 비용 관리: 캐시 TTL 최적화와 Amazon Bedrock 어트리뷰션 전략
핵심 내용
Claude Code의 프롬프트 캐시 TTL 관리와 Amazon Bedrock 등 클라우드 환경에서의 조직 비용 통제 방법을 제시했다.
자세히 보기
프롬프트 캐시 TTL과 무효화 조건
Claude Code의 비용은 프롬프트 캐싱(prompt caching) 적중률에 따라 결정된다. 캐시 읽기는 표준 입력 단가의 약 **10%**로 과금되며, 캐시 쓰기는 TTL(Time To Live)에 따라 표준의 1.25~2배 비용이 드는 1회성 투자다. 구독 플랜에서는 기본 1시간 TTL이 적용되지만, usage credits 과금으로 전환되면 5분 TTL로 자동 변경될 수 있으므로 ENABLE_PROMPT_CACHING_1H=1 환경 변수로 유지 시간을 조절해야 한다.
캐시는 요청의 **프리픽스(prefix)**가 정확히 일치할 때만 유효하다. /model 전환, /effort 변경, MCP 서버 연결 해제, 도구 deny 규칙 추가, /compact 실행, Claude Code 업그레이드 등은 프리픽스를 변경해 캐시를 무효화한다. 특히 업그레이드 직후 긴 세션을 resume하면 대화 이력 전체가 재처리되어 비용이 급증하므로, 업그레이드 전 세션 정리가 권장된다.
조직별 비용 통제 및 어트리뷰션
조직의 비용 관리 지점은 접속 방식에 따라 다르다. Teams/Enterprise 플랜은 조직 분석의 spend report와 usage credits 한도를 통해 지출을 통제한다. **Claude Console(API)**은 워크스페이스별 spend limit과 rate limit으로 총액 및 트래픽을 제한한다.
Amazon Bedrock 등 클라우드 프로바이더를 경유할 경우, Anthropic 대시보드에는 데이터가 잡히지 않는다. 사용자별 사용량 귀속(attribution)을 위해 OpenTelemetry를 통한 메트릭 내보내기, 셀프호스팅 Claude apps gateway, 또는 LiteLLM 같은 LLM 게이트웨이를 활용해야 한다. 단, 게이트웨이 경유 시 cache_control 마킹이 제대로 전달되지 않으면 캐시 효율이 떨어질 수 있어 주의가 필요하다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.