AI BriefingPrecision Numerics, 1-bit Qwen3 모델 공개
Boole-1.7B: A 1-bit Qwen3-1.7B model that outperforms Bonsai-1.7B
·2026.10.13 00:35
핵심 내용
Precision Numerics가 1-bit Qwen3 모델 Boole-1.7B를 공개했다.
자세히 보기
Precision Numerics가 Qwen3-1.7B의 1-bit 양자화 모델인 Boole-1.7B를 공개했습니다. 로컬 배포를 위한 극단적 압축에 초점을 맞췄으며, 가중치 크기는 247 MB로 원본 BF16 모델보다 13.9배 작습니다.
성능 및 벤치마크
10개 작업 평가에서 Boole-1.7B는 전체 BF16 모델 평균 점수의 **85.9%**를 기록했습니다. 이 모델은 1-bit Bonsai-1.7B보다 성능이 우수하며, 1.58-bit Bonsai-1.7B와 거의 비슷한 수준을 보입니다.
배포 및 가용성
웹 브라우저에서 로컬 실행이 가능하며(영어 최적화), vLLM 및 llama.cpp 연동을 지원합니다. 가중치는 Hugging Face에, 데모 코드는 GitHub에 게시되어 있습니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
