AI BriefingNVIDIA Cosmos3 64B, INT4 양자화 버전 공개
SOTA ImageGen Locally NVIDIA Cosmos3(64B) INT4 quants CUDA/MLX
·2026.09.09 23:21
핵심 내용
NVIDIA Cosmos3 64B 모델의 INT4 양자화 버전이 CUDA와 MLX용으로 공개되어 로컬 실행이 가능해졌다.
자세히 보기
NVIDIA의 Cosmos3 64B 파라미터 모델이 INT4 양자화 버전으로 공개되어 CUDA 및 Apple Silicon(MLX) 환경에서 실행할 수 있게 되었다.
공개된 리소스는 GitHub 저장소와 Hugging Face를 통해 배포되며, 텍스트-이미지(T2I) 및 이미지-비디오(I2V) 생성 기능을 지원한다. 특히 4단계(4-Step) 추론 최적화가 적용된 INT4-G64-BF16 가중치가 제공된다.
성능 측면에서는 M4 Max 128GB Mac에서 단일 클립 생성에 약 5분이 소요되는 것으로 보고되었다. 이는 대규모 파라미터 모델을 로컬 하드웨어에서 구동할 수 있는 가능성을 보여주는 사례로, 개발자들은 공개된 코드를 통해 Grok 등 다른 모델과의 비교 테스트도 수행할 수 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.