NVIDIA Nemotron 3.5 Embed 8B, ViDoRe v3.1에서 61.17 nDCG@10 기록

• NVIDIA가 2026년 10월 21일 멀티모달 검색 개선 및 AI 에이전트 추론 비용 절감을 위한 Nemotron 3.5 모델 5종(Embed 8B/1B BF16 및 NVFP4, Rerank 8B, Parse)을 출시함
• Nemotron 3.5 Embed 8B BF16이 ViDoRe v3.1에서 nDCG@10 61.17을 기록하며 2026년 10월 20일 기준 밀집 검색 모델 1위를 차지하고, MIRACL Vision에서 Qwen3-VL-Embedding-8B보다 4.3점 우위 점수 달성함
• Nemotron 3.5 Rerank 8B를 Embed 모델과 결합하면 검색 정확도가 향상되는 동시에 8B 임베딩 기준 에이전트 토큰 비용 약 14%, 1B 임베딩 기준 13% 절감 효과 확인함
• 631M 파라미터 모델인 Nemotron 3.5 Parse가 NVIDIA H100에서 초당 10.5페이지 처리 속도로 1B 미만 모델 중 ParseBench 1위(75.20점) 달성함

Performance and Efficiency

• Nemotron 3.5 Embed 1B NVFP4가 NVIDIA GB200에서 1B BF16 모델 대비 27.1% 처리량 증가를 보여주며 초당 128.8개 문서 처리 시 ViDoRe v3.1 검색 정확도 99.85% 유지함
• NVIDIA NIM이 RTX PRO 6000 Blackwell Server Edition에서 초당 6,031개 쿼리 요청을 처리하며 동급 vLLM 구성 대비 약 2.9배 높은 처리량 기록함
• 1B Embed 모델이 ViDoRe v3.1에서 nDCG@10 58.38을 기록하며 8B 티처 모델 점수의 95.4%를 유지함

Architecture and Availability

• 모델은 Hugging Face, NVIDIA NIM, Baseten, DeepInfra, FriendliAI 등 파트너사를 통해 제공됨
• 1B Embed 모델은 코사인 및 MSE 손실을 사용해 8B 버전에서 증류했으며, 기존 텍스트 벡터 인덱스 재사용을 위해 언어 컴포넌트를 고정함
• 합성 데이터 및 하드 네거티브 마이닝을 활용한 파인튜닝 레시피로 1B 모델의 차트 및 인포그래픽 벤치마크 nDCG@10을 상대적 18% 개선함