AI BriefingNVIDIA, Nemotron 3.5 Super VL과 엣지용 Bolt 모델 공개
핵심 내용
NVIDIA가 1200억 파라미터 오픈 모델 Nemotron 3.5 Super VL과 엣지용 Bolt 모델을 공개했다.
자세히 보기
NVIDIA가 상시 실행 에이전트용 오픈 모델 Nemotron 3.5 Super VL(1200억 파라미터)과 엣지 디바이스용 Nemotron 3.5 Bolt 74B-A9B 24GB, Nemotron 3.5 Bolt E4B 4GB를 공개했다. 이번 출시로 Lightning과 Ultra를 포함해 대규모 엔터프라이즈 서버부터 로컬 하드웨어, 엣지 디바이스까지 Nemotron 제품군이 확장됐다.
Nemotron 3.5 Super VL
Super VL은 지시 따르기, 도구 사용, 시각 이해 등 멀티모달 에이전트 작업에서 NVIDIA 최대 추론 모델과 동등한 정확도를 제공하며, 파라미터 수는 약 5분의 1 수준이다. Artificial Analysis Intelligence Index 기준 경쟁 모델 대비 최대 5배 빠른 처리량을 기록해 해당 등급 오픈 에이전트 모델 중 가장 빠르다. 약 26조 토큰으로 학습했으며, 약 380만 샘플로 후학습을 진행했다.
조직은 NVIDIA NeMo와 오픈 데이터셋을 활용해 자체 데이터로 Super VL을 후학습할 수 있다. Scale AI, Atlassian, CrowdStrike, Perplexity 등 기업들이 금융 분석, 에이전틱 검색, 사이버 보안 등 특정 워크플로우에 맞춰 모델을 커스터마이징하고 있다. Super VL은 Hugging Face, Open Router, ModelScope, NVIDIA NIM에서 즉시 사용 가능하다.
Nemotron 3.5 Bolt 엣지 모델
Bolt 모델은 로컬 및 엣지 환경을 타겟팅한다. Bolt 74B-A9B 24GB는 네이티브 2비트 양자화를 적용해 24GB 메모리에 탑재되며, NVIDIA RTX/DGX Spark 시스템에서 실행된다. 해당 등급 오픈 모델 중 PinchBench 1위, BrowseComp 2위를 차지했다. Bolt E4B 4GB는 GB당 지능을 최적화해 GeForce RTX, Jetson, RTX/DGX Spark 하드웨어의 물리적 및 대화형 에이전트용으로 설계됐다.
Bolt 74B-A9B는 Hugging Face에서 즉시 제공되며 llama.cpp, Ollama, LM Studio, Unsloth, vLLM을 지원한다. Bolt E4B는 10월 23일 출시 예정이다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
