Gemma 4 MTP 드래프터 공개
New Gemma 4 draft models released
·2026.05.07 07:20
핵심 내용
Google이 Gemma 4용 MTP 드래프터를 공개해 최대 3배 추론 속도 향상을 제시했다.
자세히 보기
Google이 Gemma 4 공개 한 달 만에 Multi-Token Prediction(MTP) 드래프터를 공개했다.
경량 드래프터가 여러 미래 토큰을 병렬 예측하고, 주 모델이 최종 검증만 맡는 speculative decoding 구조다. 이 방식으로 추론 병목을 줄이면서 품질과 reasoning accuracy를 유지한다고 설명한다.
- Gemma 4 26B MoE와 31B Dense에서 최대 3배 속도 향상을 목표로 한다.
- 실시간 채팅, 음성 인터페이스, 에이전트 워크플로에 더 적합하다.
- 로컬 PC와 소비자 GPU, E2B/E4B 엣지 환경에서도 더 효율적인 실행을 노린다.
- 배포는 Apache 2.0 라이선스로 제공된다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.