복잡한 도구 사용 상황에서 Claude가 멈춰 생각하게 하는 "think" 도구

think tool은 Claude가 응답 생성 중간에 멈춰, 지금까지 얻은 도구 결과를 바탕으로 다음 행동을 점검하게 하는 별도 사고 공간이다. extended thinking과는 다르게, 응답을 시작한 뒤 새로운 정보가 들어온 시점에 특히 유용하며 긴 tool chain, 정책이 복잡한 환경, 순차적 의사결정에서 효과가 크다.

τ-Bench 평가에서는 이 차이가 분명했다. 항공 도메인에서는 think + 최적화 prompt가 pass^1 0.570을 기록해 baseline 0.370보다 54% 높았고, retail 도메인에서는 think tool만으로 0.812를 기록해 baseline 0.783보다 앞섰다. k=1부터 k=5까지의 pass^k 결과에서도 일관성 개선이 유지돼, 에지 케이스와 예외 상황 처리에 도움이 됐다.

가장 큰 차이는 난도가 높은 도메인에서 prompt 설계가 얼마나 중요한지다. 항공 도메인처럼 정책이 복잡한 경우에는 think tool을 그냥 켜는 것만으로는 충분하지 않았고, 어떤 규칙을 확인해야 하는지, 어떤 순서로 검증해야 하는지에 대한 도메인 특화 예시를 system prompt에 넣었을 때 성능이 크게 올랐다.

반대로 retail처럼 상대적으로 단순한 환경에서는 별도 최적화 없이도 효과가 있었다. 즉, 복잡한 정책 + 긴 tool chain 조합이면 think tool과 prompt가 강하게 맞물리고, 단순한 작업이면 think 자체만으로도 이득을 낼 수 있다.

SWE-bench에서도 유사한 think tool이 추가됐고, Claude 3.7 Sonnet의 성과 향상에 기여했다고 설명한다. 저자들은 think tool의 독립 효과를 분석한 결과, 평균 1.6% 개선을 확인했다고 밝혔다(t(38.89)=6.71, p<.001, d=1.47).

정리하면, think tool은 다음 상황에 맞다.

• Tool output analysis: 이전 tool 결과를 검토하고 되돌아가야 할 때
• Policy-heavy environments: 세부 규칙 준수와 검증이 중요한 환경
• Sequential decision making: 각 단계가 다음 단계에 영향을 주는 작업

반대로 단일 tool call, 병렬 호출 중심 작업, 제약이 적은 단순 instruction following에서는 추가 효과가 거의 없을 수 있다. 또한 비용 측면에서는 prompt 길이와 output token이 늘어나는 점을 감안해야 한다.

실무적 권고는 명확하다. 복잡한 agentic tool use 시나리오에서 먼저 실험하고, system prompt에 도메인별 think 사용 지침과 예시를 넣으며, 필요한 경우에만 적용하는 방식이 가장 효율적이다. 다만 2025-12-15 업데이트에서는 대부분의 경우 dedicated think tool보다 extended thinking을 우선 추천한다고 덧붙인다.