AI BriefingMTP 켜자 24%↑
Qwen3.6 vs 3.5 on DGX Spark: identical throughput, except with one flag flipped
·2026.04.18 21:38
핵심 내용
DGX Spark에서 Qwen3.6은 Qwen3.5와 비슷하지만 MTP로 처리량이 크게 늘었다.
자세히 보기
DGX Spark(GB10)에서 같은 설정과 같은 벤치마크로 비교한 결과, Qwen3.6은 Qwen3.5와 전반적으로 ±1% 내외의 동일한 처리량을 보였다.
하지만 MTP를 켠 뒤 16-concurrent 스트레스 테스트에서는 결과가 달라졌다. 처리량은 +24% 증가했고, TTFT는 -57% 줄었다.
해석은 이렇다.
- GB10의 unified memory 환경에서는 서빙이 메모리 대역폭 병목에 가깝고
- 남아 있던 계산 여유를 MTP 검증이 메워서
- speculative decoding이 본래 의도한 방식으로 이득을 낸다는 설명이다.
추가로 **global acceptance rate 72.5%**가 제시됐고, 워크로드 유형별 전체 분해 결과도 함께 제공된다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
