#model-quantization
#model-quantization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-quantization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
ISTA-DASLab이 3.50 bpw에서 BF16급 성능을 내는 Qwen3.8-Flash-Next 양자화 모델을 공개했다.
Aikido가 민감한 보안 데이터 유출 없이 온프레미스 환경에서 실행 가능한 경량화 오픈웨이트 보안 모델 Altar를 공개했다.
Cerebras가 GPT OSS와 Qwen 3.8 모델을 공개 엔드포인트에서 제공하며, 모든 모델은 원본 상태의 비프닝(non-pruned) 버전임을 명시했다.
FP8 수준의 성능을 유지하면서 용량을 획기적으로 줄인 2-bit Qwen3.6-35B-A3B 모델과 전용 런타임이 공개되었습니다.
PrismML이 Qwen 3.6-27B를 1-bit 양자화로 3.9GB로 압축한 Bonsai 27B 모델을 공개했다.
로컬 기기에서 고품질 이미지 생성을 지원하는 1비트 및 ternary 방식의 소형 Bonsai Image 4B 모델이 공개됨.
BitNet 아키텍처 기반 1B 및 3B 규모의 1.58비트 언어 모델 Falcon-Edge가 공개되었다.