Qwen-Image-Flash: 목적 함수 설계를 넘어

시각적 생성 모델을 가속화하기 위한 Few-step distillation은 효과적인 전략이지만, 기존 연구는 주로 distillation objectives(증류 목적 함수) 설계에만 치중해 왔다.

본 연구는 Qwen-Image-2.0을 사례로 삼아, 학생 모델의 성능을 결정짓는 핵심 요소인 training recipe(학습 레시피)를 다각도에서 분석했다. 특히 통합 텍스트-이미지 생성 및 지시어 기반 이미지 편집 증류 과정에서 다음 세 가지 요소를 중점적으로 조사했다:

• Data composition (데이터 구성)
• Teacher guidance (교사 모델 가이드)
• Task mixture (태스크 혼합)

실험적 분석을 통해 기존에 잘 알려지지 않았던 여러 동작 양상을 발견했으며, 이를 바탕으로 Qwen-Image-Flash를 개발했다. 결과적으로 효과적인 Few-step distillation을 위해서는 정교한 목적 함수 설계뿐만 아니라, 전체 training pipeline을 원칙에 따라 조직화하는 것이 필수적임을 입증했다.