Claude Developer Platform의 고급 tool use 소개

AI 에이전트는 이제 수백, 수천 개의 툴을 넘나들며 일해야 하지만, 모든 정의를 한 번에 프롬프트에 넣는 방식은 한계가 분명하다. 툴 정의와 결과가 50,000+ tokens를 잡아먹고, 비슷한 이름의 툴을 잘못 고르거나 잘못된 파라미터를 넣는 문제가 빈번하다.

Anthropic은 이런 문제를 해결하기 위해 3가지 기능을 공개했다.

• Tool Search Tool: 필요한 툴만 검색해서 불러오는 방식으로, 전체 툴 라이브러리를 context window에 전부 올리지 않아도 된다.
• Programmatic Tool Calling: Claude가 코드 실행 환경에서 툴을 호출하게 해, 자연어 기반 반복 호출의 context 오염과 inference 비용을 줄인다.
• Tool Use Examples: JSON schema만으로는 드러나지 않는 실제 사용 패턴을 예제로 학습시키는 표준을 제공한다.

Tool Search Tool은 defer_loading: true로 툴을 지연 로딩하고, 검색이 필요한 시점에만 관련 툴 정의를 펼친다. 예시로 GitHub, Slack, Sentry, Grafana, Splunk를 합친 다중 서버 환경에서는 약 55K tokens가 툴 정의에만 쓰이지만, 이 기능을 쓰면 초기 로딩을 약 500 tokens 수준으로 낮추고 필요한 3~5개 툴만 추가로 불러온다. Anthropic은 이를 통해 85% token 사용 감소, context window의 95% 보존을 설명하며, MCP 평가에서 Opus 4는 49%→74%, **Opus 4.5는 79.5%→88.1%**로 정확도가 개선됐다고 밝혔다.

이 방식은 prompt caching에도 유리하다. 지연 로딩된 툴은 초기 프롬프트에 포함되지 않으므로, 시스템 프롬프트와 핵심 툴 정의는 그대로 캐시 가능하다. 대신 검색 단계가 추가되므로, 툴이 많고 검색 비용보다 context 절감 효과가 큰 경우에 특히 효과적이다.

Programmatic Tool Calling은 반복적인 tool call을 자연어 왕복이 아니라 코드로 조정한다. 예를 들어 여행비 지출 초과 여부를 확인할 때, Claude가 Python 코드로 팀원 목록, 예산, 지출 내역을 병렬로 가져와 비교하고, 최종 결과만 context에 남긴다. 중간의 대량 데이터는 모델에 쌓이지 않기 때문에, 복잡한 워크플로에서도 더 안정적으로 제어할 수 있다.

성과도 제시됐다. 복잡한 연구 작업에서 평균 token 사용량이 43,588→27,297로 줄어 37% 절감됐고, 내부 지식 검색은 25.6%→28.5%, GIA benchmark는 **46.5%→51.2%**로 개선됐다. 즉, 많은 툴 호출과 대용량 중간 결과가 얽힌 작업일수록 코드 기반 오케스트레이션의 이점이 커진다.

이들 기능의 공통 목표는 분명하다. 툴 정의는 필요할 때만 불러오고, 툴 호출은 코드로 제어하며, 올바른 사용법은 예제로 전달해 대규모 agent 시스템의 확장성과 정확도를 동시에 끌어올리는 것이다.