AI Briefing#int4
#int4와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#int4와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA Cosmos3 64B 모델의 INT4 양자화 버전이 CUDA와 MLX용으로 공개되어 로컬 실행이 가능해졌다.
32개 AMD MI50 2노드에서 Kimi K2.6 int4가 출력 9.7 tok/s, 입력 263 tok/s를 기록했다.