GPT-OSS 템플릿 버그 수정판 공개
Improved and fixed template for GPT-OSS (again). Includes preserve_thinking and fix for Unsloth-induced bug
·2026.09.27 05:35
핵심 내용
커뮤니티가 GPT-OSS의 멀티턴 대화 답변 누락 버그를 수정한 템플릿을 공개했다.
자세히 보기
Hugging Face의 한 사용자가 GPT-OSS용 업데이트된 Jinja 템플릿을 공개해 Unsloth 버전 템플릿에 있던 치명적인 버그를 수정했다. 기존 버그는 대화 이력에 추론(thinking)과 최종 답변(content)이 모두 포함된 경우, 템플릿이 추론 부분만 렌더링하고 답변을 누락하는 문제였다. 이로 인해 멀티턴 대화에서 혼란과 비일관성이 발생했으며, 특히 GPT-OSS 20B 모델은 완전히 엉뚱한 답변을 내놓는 현상이 나타났다. GPT-OSS 120B 모델은 추론 기록만으로 맥락을 복원해 상대적으로 견고했지만, 근본적인 템플릿 오류는 남아 있었다. 새 템플릿은 추론과 답변을 모두 포함하도록 렌더링 로직을 수정했다. 또한 추론 기록을 턴 간에 유지해 프리픽스 캐싱으로 추론 속도를 높일 수 있는 preserve_thinking 기능을 도입했다. 다만 토큰 사용량이 증가하는 단점이 있다. 작성자는 OpenAI의 공식 참조 템플릿에는 이러한 잘못된 복사-붙여넣기 로직이 없다고 밝혔다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.