AI Briefing#model-optimizer
#model-optimizer와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-optimizer와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA가 양자화, 가지치기 등 6가지 최적화 기법을 통합한 Model Optimizer를 공개하여 vLLM, TensorRT-LLM 등 추론 엔진용 체크포인트 생성을 지원한다.
NVIDIA가 DeepSeek-V4-Pro-0813의 NVFP4 양자화 버전을 공개하며, 총 1.65조 파라미터 중 4천억 파라미터를 활성화하는 MoE 구조를 지원한다.