AI Briefing#nvfp4
#nvfp4와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#nvfp4와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Unsloth가 Qwen3.8-27B용 Dynamic V3.1 양자화와 1비트 데이터 타입을 출시했다.
NVIDIA가 Vera Rubin NVL72로 에이전틱 처리량 대비 비용 효율을 30배 높였다
humans&의 Weight Teleportation이 RL 샘플러 일시 정지 시간을 0.23초로 단축했다.
QUASAR가 Qwen3.5 등 4-bit QAT 체크포인트를 공개해 기존 대비 낮은 KL 발산을 달성했다.
NVFP4 정밀도와 대화형/배치 풀 분리를 통해 Gemma 4의 SLO 준수 처리량을 극대화하는 vLLM 최적화 전략을 소개한다.
NInfer 포크가 NVFP4 KV 캐시와 YARN 확장을 통해 RTX 5090에서 555k 토큰 컨텍스트를 지원한다.
NVIDIA가 DeepSeek-V4-Pro-0813의 NVFP4 양자화 버전을 공개하며, 총 1.65조 파라미터 중 4천억 파라미터를 활성화하는 MoE 구조를 지원한다.
QUASAR QAT 알고리즘을 적용해 Qwen3.8-27B를 NVFP4로 양자화하여 BF16급 성능을 유지하는 체크포인트를 공개했다.
Unsloth가 Blackwell GPU에서 Qwen3.6 모델의 추론 속도를 2.5배 향상시킨 NVFP4 양자화 모델을 출시했습니다.
NVIDIA B200 환경에서 GLM-5.2를 NVFP4 및 TP=4 설정을 통해 최적화하여 성능을 극대화하는 방법
NVIDIA가 Alibaba의 Qwen3.6-35B 모델을 NVFP4 데이터 타입으로 양자화하여 공개했다.
llama.cpp가 NVIDIA FP4 양자화와 Multi-Token Prediction(MTP) 기능을 지원한다.
Mac Mini M4 Pro 64GB에서 14B dense 모델은 16.2 t/s, Qwen3.6 35B NVFP4는 69.8 t/s를 기록했다.
llama.cpp b8967의 native NVFP4가 프리필 속도를 최대 68% 높였지만 생성 속도는 거의 같았다.
llama.cpp에 초기 SM120용 네이티브 NVFP4 MMQ 지원이 병합되고 관련 GGUF 변환본도 공개됐다.