Few-Step Diffusion을 위한 궤적 모델

기존 diffusion 모델은 샘플링을 많은 작은 Gaussian denoising step으로 나눠 처리하지만, 생성 단계를 몇 번의 거친 transition으로 줄이면 그 가정이 깨진다. 기존 few-step 접근은 distillation, consistency training, adversarial objective로 속도를 끌어올렸지만, 그 과정에서 likelihood framework는 포기해야 했다.

**Normalizing Trajectory Models(NTM)**은 각 reverse step을 expressive conditional normalizing flow로 바꿔 exact likelihood로 학습한다. 구조는 다음처럼 짜였다.

• 각 단계 안에는 shallow invertible blocks를 두고,
• trajectory 전체에는 deep parallel predictor를 붙이며,
• scratch 학습과 pretrained flow-matching 초기화 둘 다 지원한다.

이렇게 얻은 trajectory likelihood는 self-distillation으로 이어진다. 모델의 score로 학습한 lightweight denoiser가 4 steps에서 고품질 샘플을 만들고, text-to-image benchmark에서는 강한 image generation baseline과 비슷하거나 더 나은 성능을 보이면서도 생성 궤적의 exact likelihood를 유지한다.