Google, 경량 다국어 임베딩 모델 공개

Google DeepMind가 개발한 EmbeddingGemma는 온디바이스(on-device) 활용에 최적화된 고성능 소형 다국어 임베딩 모델이다.

308M 파라미터와 2K 컨텍스트 윈도우를 갖추고 있으며, 100개 이상의 언어를 지원한다. 500M 미만 규모의 텍스트 전용 다국어 임베딩 모델 중 MTEB(Massive Text Embedding Benchmark)에서 최고 수준의 성능을 기록했다.

Gemma3 아키텍처를 기반으로 설계되었으나, 기존의 인과적(causal) 어텐션 대신 양방향(bi-directional) 어텐션을 사용하여 인코더 모델로서의 성능을 극대화했다. 이를 통해 검색(retrieval) 작업에서 뛰어난 효율성을 보여준다.

양자화 시 200MB 미만의 RAM만 점유하므로 모바일 RAG 파이프라인, AI 에이전트 등 자원이 제한된 환경에서 매우 실용적이다. Sentence Transformers, LangChain, LlamaIndex 등 다양한 프레임워크를 지원하며, 특정 도메인 데이터로의 파인튜닝도 가능하다.