Unsloth, Qwen3.8-Flash-Next GGUF로 토큰 50% 절감 및 95% 정확도 확보

Run Qwen3.8-Flash-Next GGUFs with Less Thinking and Less Token Use.

·2026.11.06 23:18

핵심 내용

Unsloth의 새 퀀트 방식이 토큰 사용량을 50% 줄이고 정확도를 15% 높였다

Unsloth가 Qwen3.8-Flash-Next용 Dynamic V3.1 GGUF를 출시하여 풀 프리시전 모델의 약 95%에 해당하는 사고 및 토큰 사용량을 달성함
Terminal Bench와 DeepSWE를 포함한 12개 태스크에서 512K 컨텍스트, 30B 토큰 규모로 벤치마크를 진행했으며, 동일 크기의 다른 퀀트 모델 대비 최대 50% 적은 토큰 사용, 7% 빠른 추론 속도, 약 15% 높은 정확도를 기록함
해당 퀀트 모델은 Strata에서 지원되며, 사용자 벤치마크 결과 다른 퀀트 방식보다 약 5% 빠른 추론 속도를 보임
모델 파일은 Hugging Face의 unsloth/Qwen3.8-Flash-Next-GGUF 저장소에서 제공됨

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.