Consistency Models

Diffusion 모델은 이미지, 오디오, 비디오 생성 분야를 발전시켰으나, 반복적인 샘플링 과정으로 인해 생성 속도가 느리다는 한계가 있다. 이를 해결하기 위해 노이즈를 데이터로 직접 매핑하여 고품질 샘플을 생성하는 새로운 모델군인 Consistency Models를 제안한다.

Consistency Models는 다음과 같은 특징을 가진다:

• 설계 단계부터 one-step generation(단일 단계 생성)을 지원하며, 다단계 샘플링을 통해 연산량과 품질 사이의 트레이드오프가 가능하다.
• 별도의 학습 없이도 이미지 인페인팅, 채색, 초해상도(super-resolution)와 같은 zero-shot data editing을 지원한다.

학습 방식은 기존 **diffusion 모델을 증류(distillation)**하거나, 완전히 독립적인 생성 모델로 학습하는 두 가지 방법이 가능하다.

실험 결과, one-step 및 few-step 샘플링에서 기존 증류 기술을 능가하는 성능을 보였다. 특히 CIFAR-10에서 FID 3.55, ImageNet 64x64에서 FID 6.20을 기록하며 새로운 SOTA(State-of-the-art)를 달성했다.