Gemma 4용 DFlash 공개

z-lab이 gemma-4-26B-A4B-it-DFlash를 공개했다. 이 모델은 block diffusion 기반의 speculative decoding drafter로, 반드시 google/gemma-4-26B-A4B-it와 함께 사용해야 한다.

• 공개 자료: arXiv 논문, GitHub 저장소, 프로젝트 블로그, Hugging Face 모델 카드
• 서빙 지원: vLLM과 SGLang 연동 예시를 제공한다
• 성능 주장: B300 단일 GPU 환경에서 최대 3.7배 처리량 향상을 제시했다
• 측정 조건: thinking 활성화, greedy decoding, 최대 출력 길이 4096, concurrency 1/8/32 기준 벤치마크를 포함했다

벤치마크에서는 Math500, GSM8K, HumanEval, MBPP, MT-Bench에서 모두 AR 대비 더 높은 generated tokens/sec를 보였고, acceptance length도 태스크별로 함께 제시했다. vLLM에서는 아직 Gemma 4 DFlash 지원이 병합되지 않아 PR 기반 설치가 필요하며, SGLang도 실험적 옵션을 통해 실행할 수 있다.