Google, Gemini API에 Tool Retrieval 도입해 대형 도구 라이브러리 토큰 사용량 절감

·2026.11.20 03:00

핵심 내용

Gemini API Tool Retrieval이 도구 스키마를 필요 시에만 로드해 입력 토큰을 절감한다

자세히 보기

  • Gemini Interactions API에서 Tool Retrieval 프리뷰 제공, 에이전트가 대형 도구 라이브러리를 대기 상태로 유지하고 특정 작업 시에만 파라미터 스키마 로드 가능함
  • 전체 도구 라이브러리를 모든 프롬프트에 전송하지 않아 입력 토큰 수와 지연 시간 감소, 도구 수가 증가해도 도구 선택 정확도 유지함
  • 개발자는 tool_search 도구를 추가하고 특정 도구에 defer_loading: true를 설정하여 활성화, 모델은 도구 이름과 설명만 확인하고 요청 시까지 스키마를 컨텍스트에서 제외함
  • 인덱스 불필요한 서버 사이드 검색과 커스텀 레지스트리를 위한 클라이언트 사이드 검색 지원, 원격 MCP 서버의 모든 도구 노출 시에도 지연 로딩으로 동작함
  • 표준 입력 및 출력 토큰 요금제 적용, tool_search 도구와 로드된 스키마는 소량의 고정 입력 토큰 블록으로 추가 과금되며 나머지 대화에서는 입력 토큰으로 과금됨
  • Gemini 3.6 및 이후 모델, Gemini 4 모델 전체와 호환됨

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.