추천embeddinggemma-2: 텍스트·이미지·오디오를 하나의 벡터로 통합하는 740M 파라미터 모델

텍스트, 이미지, 비디오, 오디오를 단일 768차원 벡터 공간으로 매핑하는 멀티모달 임베딩 모델이다. 총 740M 파라미터 규모로, 270M 텍스트 백본과 모듈형 비전 및 오디오 인코더가 결합된 구조를 지닌다.

필요한 모달리티만 선택적으로 로드할 수 있어 모바일이나 노트북 같은 컨슈머 하드웨어에서도 저지연 추론이 가능하다. Matryoshka Representation Learning을 지원해 128d부터 768d까지 벡터 차원을 유연하게 조절하며 저장 비용을 최대 6배까지 줄일 수 있다.

100개 이상의 언어와 코드를 이해하며, 이전 세대 대비 코드 작업 성능이 약 14% 향상됐다. 8K 토큰 컨텍스트 윈도우를 통해 수 분 분량의 오디오나 비디오 처리도 지원한다.

검색, RAG, 분류, 클러스터링 등 다양한 작업을 위해 경량 텍스트 지시문(prefix)을 활용한 태스크 스티어링이 가능하다. Apache 2.0 라이선스로 배포되어 온디바이스 애플리케이션 구축에 적합하다.