AI BriefingAnthropic message threads 베타, Claude Code 첫 토큰 도달 시간 35% 단축
Anthropic shipped message threads (beta): Claude Code now sends only new messages per turn, about 35% lower time to first token on 500k to 1M token requests
·2026.11.04 11:07
핵심 내용
Anthropic의 message threads 베타가 Claude Code의 첫 토큰 도달 시간을 35% 단축했다
자세히 보기
- Anthropic이 Messages API에 베타
thread파라미터를 출시하여, 클라이언트가 전체 대화 이력 대신 새 메시지와 이전 응답 ID만 전송할 수 있도록 함 - 500k~1M 토큰 요청의 경우 중간값 시간 to first token이 약 35% 단축되며, 더 작은 페이로드가 컴퓨터 사용 에이전트의 효율성을 개선함
- 해당 기능은 대부분의 Claude Code 사용자에게 기본적으로 활성화되어 있으며, Claude API, AWS, Google Cloud, Microsoft Foundry에서 사용 가능함
- Claude가 매 턴마다 전체 대화 컨텍스트를 처리하므로 토큰 사용량, 가격, 레이트 리미트는 변경되지 않음
- 스레드는 메모리에 저장되며 마지막 요청 후 5분 만료되어, 새 스레드를 시작하려면 클라이언트가 전체 대화를 다시 전송해야 함
- 제한 사항으로 cache_control 브레이크포인트 최대 4개, continue 요청 시 system 또는 tools 사용 금지, ZDR 또는 HIPAA 준수 대상 제외가 있음
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
