Qwen3.8-27B 2bit 양자화 공개

런타임: 자체 개발한 SGLang 기반 런타임 사용
오픈소스: 모델 및 런타임 스택 모두 Apache-2.0 라이선스로 공개 예정
호환성: llama.cpp 지원용 GGUF 버전도 곧 제공 예정

2-bit Qwen3.8-27B - 10.15GB, ~100% FP8 benchmark performance

·2026.08.21 02:19

핵심 내용

Escha Labs가 Qwen3.8-27B의 2bit 양자화 모델을 공개하며 FP8 대비 동등한 성능을 입증했다.

Escha Labs가 Qwen3.8-27B-Escha-W2 모델을 공개했다. 이 모델은 10.15GB 용량으로, RTX 5090에서 82.6 tok/s의 단일 스트림 추론 속도를 기록했다.

8개 벤치마크 평균에서 **FP8 성능의 약 100%**를 달성했으며, 특히 LiveCodeBench v6에서는 FP8(85.16)보다 높은 86.81점을 기록했다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.