로컬 디바이스를 위한 1-Bit Bonsai Image 4B 이미지 생성 모델

Bonsai Image 4B는 노트북부터 스마트폰까지 로컬 하드웨어에서 고품질 확산(diffusion) 추론을 수행하도록 설계된 컴팩트한 이미지 생성 모델 제품군이다.

두 가지 변형 모델을 제공한다:

• 1-bit Bonsai Image 4B: 이진 가중치({−1, +1})를 사용하여 메모리 압박과 대역폭 제약이 큰 환경에 최적화되었으며, 실질적인 가중치당 비트는 1.125이다.
• Ternary Bonsai Image 4B: 삼진 가중치({−1, 0, +1})를 사용하여 시각적 품질과 프롬프트 충실도를 높였으며, 실질적인 가중치당 비트는 1.71이다.

FLUX.2 Klein 4B를 기반으로 구축되었으며, 가중치 표현 방식을 변경하여 메모리 사용량을 획기적으로 줄였다.

• 1-bit 모델: 확산 트랜스포머 크기가 0.93 GB로, 원본(7.75 GB) 대비 약 8.3배 감소했다.
• Ternary 모델: 확산 트랜스포머 크기가 1.21 GB로, 원본 대비 약 6.4배 감소했다.

Apple Silicon(iPhone, iPad, Mac)의 MLX 경로와 CUDA GPU의 Gemlite 커널을 지원하며, iPhone 17 Pro Max 등에서 온디바이스 실행이 가능하다.