AI BriefingD3D Diffusion Drafter, Qwen3-32B에서 5.71x 속도 향상
[Paper] D3D: Decoupled Diffusion Drafting for Asynchronous Speculative Decoding
·2026.11.07 18:00
핵심 내용
D3D는 검증 중 후속 블록을 드래프팅해 의존성을 제거하고 DFlash보다 높은 평균 속도 향상을 달성했다
자세히 보기
- D3D는 드래프팅 라운드 간 업데이트된 타깃 모델 히든 스테이트가 불필요하도록 하여 비동기 스펙ulative 디코딩을 가능하게 하는 독립형 디퓨전 드래프터임
- 7개 벤치마크에서 Qwen3-8B 타깃 기준 평균 5.00x, Qwen3-32B 타깃 기준 5.71x의 디코딩 속도 향상을 기록하며 DFlash의 4.03x와 3.67x를 상회함
- Qwen3-32B 기반 GSM8K 벤치마크에서는 속도 향상이 7.48x에 달함
- 점진적 레이어 프루닝을 통해 드래프팅 비용을 절감하며, Qwen3-8B 기준 36개 레이어 중 5개를 제거해도 3개 벤치마크에서 평균 수락 길이의 99% 이상을 유지함
- Qwen3-8B 및 Qwen3-32B 타깃을 위한 1.7B와 8B 파라미터 변형을 포함한 Qwen3 파생 드래프트 체크포인트 6개를 공개함
- 학습 데이터는 Open-PerfectBlend 프롬프트로 구성되며, 다양한 Qwen3 및 Gemma-4 설정을 위해 코퍼스당 약 142만 개의 샘플을 사용함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
