추천Nemotron 3 Embed, RTEB 1위 임베딩 모델

NVIDIA가 에이전트 검색 및 RAG 시스템을 위한 Nemotron 3 Embed 임베딩 모델 세 가지 버전을 공개했다.

모델 라인업:

• Nemotron-3-Embed-8B-BF16: RTEB 벤치마크 1위(78.5%), MMTEB에서 75.5% 달성
• Nemotron-3-Embed-1B-BF16: 전작 대비 오류율 27% 감소, RTEB 72.4% (가벼운 배포용)
• Nemotron-3-Embed-1B-NVFP4: Blackwell 아키텍처 최적화, BF16 대비 2배 처리량, 메모리 99% 절감

주요 성능: 더 정확한 검색이 에이전트의 반복 쿼리와 불필요한 추론을 줄여 토큰 비용을 감소시킨다. 평가 결과 Nemotron 3 Embed 8B 모델이 ViDoRe V3, BRIGHT, BrowseComp-Plus에서 가장 낮은 예상 에이전트 토큰 비용을 달성했다.

기술 특성:

• 32k 컨텍스트 윈도우
• 다국어 및 코드 검색 지원
• 오픈 가중치 및 파인튜닝 레시피 제공
• HuggingFace, NVIDIA NIM 마이크로서비스, vLLM에서 즉시 이용 가능

구성: 1B 모델은 Ministral-3-3B 백본을 3B → 2B → 1.14B로 단계적 가지치기 및 증류를 통해 압축했으며, 8B 교사 모델의 지식을 전이받아 정확도를 유지했다.