vLLM, Qwen Tool Calling 버그 수정
Qwen 3/3.5/3.6 tool calling is broken (even worse with 3.6).
·2026.04.24 18:30
핵심 내용
vLLM의 파서 오류로 인해 Qwen 모델의 Tool Calling 기능이 오작동하는 버그가 발견되었습니다.
자세히 보기
vLLM 엔진을 사용하여 Qwen 3, 3.5, 3.6 모델을 구동할 때, Tool Calling(도구 호출) 및 에이전트 기반 코딩 기능이 제대로 작동하지 않는 문제가 보고되었습니다.
조사 결과, vLLM의 **추론 파서(Reasoning Parser)**와 **도구 파서(Tool Parser)**에서 여러 버그가 확인되었습니다. 주요 이슈로는 도구 호출 시 마지막 줄바꿈(\n)이 무시되는 현상 등이 포함됩니다.
현재 이 문제를 해결하기 위한 다수의 GitHub Pull Request가 vLLM 프로젝트에 제출되어 있습니다. Qwen 모델을 활용해 에이전트 시스템을 구축하거나 배포 중인 개발자들은 해당 패치가 반영된 최신 vLLM 버전을 확인해야 합니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.