SD3.5-Flash: 생성형 Flow의 분포 유도 증류

SD3.5-Flash는 계산 비용이 큰 rectified flow 모델을 몇 단계만으로 실행 가능하도록 압축한 효율적 distillation 프레임워크다. 핵심은 few-step generation에 맞춘 distribution matching objective를 재구성해, 품질을 유지하면서도 소비자용 기기에서 빠르게 돌릴 수 있게 만든 점이다.

주요 개선은 두 가지다.

• timestep sharing: 그래디언트 노이즈를 줄여 학습을 안정화
• split-timestep fine-tuning: 프롬프트 정렬(prompt alignment)을 개선

여기에 text encoder restructuring과 특화된 quantization 같은 파이프라인 최적화를 더해, 모바일폰부터 데스크톱까지 다양한 하드웨어에서 메모리 효율적으로 배포할 수 있게 했다. 결과적으로 고급 생성 AI를 더 넓은 사용자층에 제공하는 방향을 제시한다.

대규모 사용자 연구를 포함한 평가에서 SD3.5-Flash는 기존 few-step 방법들을 일관되게 앞섰다고 제시된다. 즉, 단순히 빠르기만 한 모델이 아니라, 실사용에 필요한 속도와 품질을 함께 잡는 쪽에 초점이 맞춰져 있다.