Gemma 4 12B: 통합형 인코더 없는 멀티모달 모델

Gemma 4 12B는 노트북 환경에서 에이전트형 멀티모달 지능을 실행하기 위해 설계된 중간 크기 모델입니다.

인코더 없는 통합 아키텍처를 채택하여 이미지와 오디오 입력을 별도의 멀티모달 인코더 없이 LLM 백본에 직접 전달합니다. 비전 처리는 경량 임베딩 모듈로 대체하고, 오디오는 원시 신호를 텍스트 토큰과 유사한 차원 공간으로 투영함으로써 지연 시간과 메모리 사용량을 획기적으로 줄였습니다.

주요 특징은 다음과 같습니다:

• 성능 및 효율성: 26B MoE 모델에 근접한 성능을 내면서도 메모리 사용량은 절반 미만입니다.
• 로컬 실행 최적화: 16GB RAM/VRAM 환경의 소비자용 노트북에서 구동 가능하며, Multi-Token Prediction(MTP) drafters를 통해 지연 시간을 단축했습니다.
• 네이티브 오디오 지원: Gemma 계열 최초로 네이티브 오디오 입력을 지원합니다.
• 개발자 친화적: Apache 2.0 라이선스로 제공되며, Hugging Face, Ollama, LM Studio 등 다양한 플랫폼을 지원합니다.