vLLM, Qwen Tool Calling 버그 수정
Qwen 3/3.5/3.6 tool calling is broken (even worse with 3.6).
·2026.04.24 18:30
vLLM의 파서 오류로 인해 Qwen 모델의 Tool Calling 기능이 오작동하는 버그가 발견되었습니다.
vLLM 엔진을 사용하여 Qwen 3, 3.5, 3.6 모델을 구동할 때, Tool Calling(도구 호출) 및 에이전트 기반 코딩 기능이 제대로 작동하지 않는 문제가 보고되었습니다.
조사 결과, vLLM의 **추론 파서(Reasoning Parser)**와 **도구 파서(Tool Parser)**에서 여러 버그가 확인되었습니다. 주요 이슈로는 도구 호출 시 마지막 줄바꿈(\n)이 무시되는 현상 등이 포함됩니다.
현재 이 문제를 해결하기 위한 다수의 GitHub Pull Request가 vLLM 프로젝트에 제출되어 있습니다. Qwen 모델을 활용해 에이전트 시스템을 구축하거나 배포 중인 개발자들은 해당 패치가 반영된 최신 vLLM 버전을 확인해야 합니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.