추천Gemma 4 12B: 통합형 엔코더 프리(encoder-free) 멀티모달 모델

구글이 노트북 환경에서도 강력한 멀티모달 지능을 구현할 수 있는 Gemma 4 12B 모델을 발표했습니다. 이 모델은 기존의 별도 엔코더를 사용하는 방식에서 벗어나, 시각 및 오디오 입력을 LLM 백본에 직접 통합하는 엔코더 프리(encoder-free) 아키텍처를 채택한 것이 특징입니다.

주요 기술적 특징:

• 통합형 아키텍처: 시각 데이터는 경량 임베딩 모듈을 통해 처리하고, 오디오 데이터는 원시 신호를 텍스트 토큰과 동일한 차원으로 직접 투영합니다. 이를 통해 엔코더 사용 시 발생하는 지연 시간과 메모리 오버헤드를 최소화했습니다.
• 높은 효율성: 26B MoE 모델에 근접하는 성능을 유지하면서도 메모리 점유율은 절반 이하로 낮췄습니다. 16GB RAM을 갖춘 일반 소비자용 노트북에서도 로컬로 실행할 수 있습니다.
• 추론 최적화: Multi-Token Prediction (MTP) 드래프터를 탑재하여 추론 지연 시간을 줄였으며, Apache 2.0 라이선스로 공개되어 높은 접근성을 제공합니다.