NVIDIA Nemotron 3.5 Transcribe, 오픈소스 공개

• 단일 모델로 40개 언어 ASR, 31개 언어 번역, 8명까지 화자 구분을 수행함
• Hugging Face Open ASR 리더보드에서 영어 평균 WER 5.33%로 가중치 공개 모델 1위 달성
• Granary v2 데이터셋(48개 언어, 463,062시간)과 NeMo Curator 파이프라인 동시 공개
• RTX 5090 등 소비자 GPU는 NVFP4 양자화만 지원하며, BF16 대비 평균 오류율 3.6% 높음

실행 환경 및 서빙

• vLLM 0.32.0 + NeMo Speech 플러그인 조합 시 타임스탬프, 화자 구분 등 모든 기능 지원
• SGLang-Omni 0.2.0은 파일 단위 ASR만 지원하며, 화자 구분 및 번역 기능 미지원
• H100 80GB 1장 기준 공식 예제 제공, 1시간 녹음 처리 시 환경 변수 설정 필요

성능 및 벤치마크

• FLEURS 한국어 ASR CER 2.78%, 언어 식별 정확도 100% 기록
• GB300 1장 NVFP4 환경에서 초당 최대 2,238초 분량 오디오 처리 속도 달성
• DeepInfra 호스팅 API 제공, 오디오 1분당 0.002달러(1시간 0.12달러) 요금제 운영