툴콜이 중간에 멈춘다
Issues with Gemma 4 tool calling - abrupt gen ending despite the model telling me it wants to do X.
·2026.04.16 04:00
핵심 내용
Gemma 4 26B a4b에서 다단계 think/tool 루프가 중간에 끊긴다.
자세히 보기
Gemma 4 26B a4b에서 think -> tool call -> think -> tool call 같은 다단계 흐름이 안정적으로 이어지지 않는다.
- 한 번의 생성 안에서 여러 tool call을 넣는 것은 가능함
- 하지만 thinking이 섞인 뒤의 다음 단계에서, 모델이 "X를 하겠다"고 말한 직후 생성이 갑자기 종료됨
- 최신 chat template을 써도 같고, interleaved / old template 모두 차이가 없음
- 사용 모델은 a26b a4b q4_k_m
추가 설명으로, think -> tool call -> think -> tool call -> response to the user까지는 동작하지만, 그 뒤에 다시 thinking -> tool call로 이어지려 하면 갑자기 끝난다고 정리함. 즉, 사용자 응답 이후의 추가 도구 호출 루프가 끊기는 현상으로 보임.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.