Hugging Face, 통합 Tool Use API 공개

LLM의 계산 능력 부족이나 최신 정보 부재 등의 한계를 극복하기 위한 Tool Use(도구 사용) 기능은 매우 중요하지만, 모델마다 요구하는 형식이 달라 구현이 까다로운 문제가 있었습니다.

Hugging Face는 이를 해결하기 위해 기존의 Chat Templates를 확장하여 통합 Tool Use API를 도입했습니다. 이를 통해 개발자는 모델별로 코드를 수정할 필요 없이 동일한 코드로 도구 사용 기능을 구현할 수 있습니다.

주요 특징 및 장점:

• 모델 간 호환성: Mistral, Cohere, NousResearch, Llama 등 주요 모델 제품군에서 별도의 수정 없이 코드를 이식할 수 있습니다.
• 개발 편의성: Transformers 라이브러리에 도구 호출을 쉽게 도와주는 헬퍼 기능이 추가되었으며, 상세한 문서와 예제가 제공됩니다.
• 표준화: JSON 스키마나 Python 함수 헤더 등 모델마다 달랐던 도구 정의 방식을 통합하여 개발자의 혼란을 줄였습니다.