Claude Code 캐시 변경이 쿼터 불만을 키운다
핵심 내용
Anthropic의 Claude Code 캐시 TTL 변경과 대용량 컨텍스트 비용이 쿼터 소진 불만을 키웠다.
자세히 보기
Anthropic은 Claude Code의 prompt cache TTL을 일부 요청에서 1시간에서 5분으로 되돌렸지만, 사용자는 오히려 사용량이 더 빨리 소진된다고 보고했다.
Sean Swanson의 분석에 따르면 Anthropic은 2월 1일경 1시간 캐시를 도입했다가 3월 7일경 다시 5분 캐시로 바꿨다. Anthropic 측은 이 변경이 반드시 비용 증가로 이어지지 않는다고 주장했고, Jarred Sumner는 많은 요청이 한 번만 쓰이는 one-shot call이라면 오히려 5분 캐시가 더 저렴할 수 있다고 설명했다.
prompt caching은 이미 보낸 컨텍스트를 다시 처리하지 않게 해 주지만, 비용 구조는 TTL에 따라 달라진다.
- 5분 캐시 쓰기: 기본 대비 25% 추가
- 1시간 캐시 쓰기: 기본 대비 100% 추가
- 캐시 읽기: 기본 가격의 약 10% 수준
다만 Swanson은 $200/월 구독자로서 6개월 동안 한 번도 쿼터 한도에 걸리지 않다가 3월 이후 상황이 달라졌다고 말했다. 그는 이 추가 소모가 Claude Code를 사실상 쓰기 어려운 수준으로 만들고 있다고 주장했다.
여기에 100만 토큰 컨텍스트 윈도우도 부담을 키운다. Claude Opus 4.6과 Sonnet 4.6에서 이 큰 컨텍스트를 쓰면 캐시 미스 비용이 커지고, Claude Code 창시자 Boris Cherny는 한 시간 이상 자리를 비운 뒤 오래된 세션을 이어가면 전체 캐시 미스가 자주 발생한다고 설명했다.
Cherny는 Anthropic이 기본 컨텍스트 윈도우를 40만 토큰으로 낮추고, 원하면 100만 토큰을 선택할 수 있게 하는 방안을 검토 중이라고 밝혔다. 대형 skills, 많은 agents, background automations가 늘면서 더 큰 컨텍스트가 흔해진 만큼, 개발자들은 캐시 재구성이나 미스가 쿼터 고갈의 주요 원인일 수 있다고 보고 있다. 동시에 일부 사용자는 Pro 요금제($20/월) 에서도 5시간에 2번 정도의 프롬프트만 가능하다고 주장하며, 캐시 버그와 성능 저하를 함께 문제 삼고 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.