AI BriefingNVIDIA Nemotron 3.5 Bolt E4B, 4GB VRAM 로컬 에이전트용 공개
NVIDIA, 4GB VRAM에서 동작하는 대화형 에이전트용 소형 모델 Nemotron 3.5 Bolt E4B 공개 (feat. Gemma 4)
·2026.10.24 15:30
핵심 내용
NVIDIA가 4GB VRAM에서 동작하는 대화형 에이전트용 소형 모델 Nemotron 3.5 Bolt E4B를 공개했다.
자세히 보기
- Gemma 4 E4B 기반 RLVR 사후 학습으로 4GB VRAM(실측 3.1~5.0GB)에서 동작하는 8B(유효 4B) 모델 공개
- BF16 기준 21개 벤치마크 중 15개에서 Gemma 4 E4B, Qwen3.5-4B보다 우위, IHEval 84.79점 기록
- SFT 없이 GRPO 기반 RL로 학습하여 추론 모드 평균 점수 63.9% 달성, 출력 토큰은 Qwen 대비 81% 감소
- DFlash 추측 디코딩 적용 시 RTX PRO 6000에서 2.74배, DGX Spark에서 3.56배 속도 향상
- llama.cpp, vLLM, Ollama 등 주요 인퍼런스 프레임워크 지원, OpenMDW 라이선스 적용
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.