Sana 1.6B 모델, 1.58비트 양자화 공개

Clark Labs에서 Sana 1.6B 텍스트-이미지 트랜스포머 모델을 삼진법(Ternary, 약 1.85 bits/weight) 방식으로 양자화한 모델을 공개했습니다.

주요 특징은 다음과 같습니다:

• 압도적인 압축률: FP16 모델(3.21 GB) 대비 크기를 약 12%(374 MB) 수준으로 줄여 8.6배 더 가볍게 구현했습니다.
• 품질 유지: 양자화 후에도 FP16과 유사한 수준의 품질을 유지하며, 정밀도가 필요한 일부 레이어(약 5%)는 높은 정밀도를 유지하도록 설계되었습니다.
• 호환성: 이 저장소의 트랜스포머/dequantized bf16 모델은 diffusers 라이브러리와 즉시 호환됩니다.

이 모델은 모델 크기를 획기적으로 줄이면서도 이미지 생성 품질을 보존하여, 제한된 리소스 환경에서의 배포 및 추론에 최적화되었습니다.