Gemma 4 MTP 드래프터 공개
New Gemma 4 draft models released
·2026.05.07 07:20
Google이 Gemma 4용 MTP 드래프터를 공개해 최대 3배 추론 속도 향상을 제시했다.
Google이 Gemma 4 공개 한 달 만에 Multi-Token Prediction(MTP) 드래프터를 공개했다.
경량 드래프터가 여러 미래 토큰을 병렬 예측하고, 주 모델이 최종 검증만 맡는 speculative decoding 구조다. 이 방식으로 추론 병목을 줄이면서 품질과 reasoning accuracy를 유지한다고 설명한다.
- Gemma 4 26B MoE와 31B Dense에서 최대 3배 속도 향상을 목표로 한다.
- 실시간 채팅, 음성 인터페이스, 에이전트 워크플로에 더 적합하다.
- 로컬 PC와 소비자 GPU, E2B/E4B 엣지 환경에서도 더 효율적인 실행을 노린다.
- 배포는 Apache 2.0 라이선스로 제공된다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.