로컬 기기용 1비트 Bonsai Image 4B 이미지 생성

Bonsai Image 4B는 노트북과 스마트폰 등 로컬 하드웨어에서 고품질 이미지 생성을 수행하기 위해 설계된 소형 모델군입니다. FLUX.2 Klein 4B 아키텍처를 기반으로 확산 트랜스포머 가중치를 1-bit 또는 ternary 방식으로 양자화하여 메모리 사용량을 극적으로 낮췄습니다.

메모리 및 모델 크기

• 1-bit 모델: 트랜스포머 크기를 0.93GB로 축소 (원본 대비 8.3배 감소).
• Ternary 모델: 트랜스포머 크기를 1.21GB로 축소 (원본 대비 6.4배 감소).
• 런타임 메모리: 512×512 이미지 생성 시 1-bit는 1.5GB, ternary는 1.96GB의 평균 활성 메모리만 사용하여 모바일 기기에서도 원활한 실행이 가능합니다.

성능 및 하드웨어 지원

• 추론 속도: Mac M4 Pro에서 512×512 이미지를 약 6초 만에 생성하며, 이는 MFLUX 대비 최대 5.6배 빠른 속도입니다. iPhone 17 Pro Max에서는 9.4초가 소요됩니다.
• 품질 유지: Ternary 모델은 FLUX.2 Klein 4B 대비 95%의 성능을 유지하며, GenEval 및 HPSv3 등 주요 벤치마크에서 SDXL 및 Stable Diffusion 1.5를 상회하는 성능을 보여줍니다.
• 기술 스택: Apple Silicon의 MLX low-bit 경로와 CUDA의 Gemlite low-bit GEMM 커널을 지원합니다.