Apple, 4단계 생성에서 정확한 가능성 유지하는 NTM 프레임워크 공개

Apple 연구진이 압축된 생성 단계에서 가우시안 노이즈 제거 가정이 무너지는 문제를 해결하기 위한 프레임워크 **Normalizing Trajectory Models (NTM)**을 공개했습니다. 증류나 적대적 목적 함수에 의존해 가능성 프레임워크를 희생하는 기존 소수 단계 방법과 달리, NTM은 각 역단계를 정확한 가능성 학습이 가능한 표현력 있는 조건부 정규화 흐름으로 모델링합니다.

아키텍처 및 학습

NTM은 각 단계 내의 얕은 가역 블록과 궤적 전체에 걸친 깊은 병렬 예측자를 결합합니다. 이 엔드투엔드 네트워크는 처음부터 학습하거나 사전 학습된 흐름 매칭 모델에서 초기화할 수 있습니다. 정확한 궤적 가능성을 통해 모델이 자체 유도한 점수 함수로 학습된 경량 노이즈 제거기가 고품질 샘플을 생성하는 자기 증류가 가능합니다.

성능

텍스트-이미지 벤치마크에서 NTM은 단 4단계의 샘플링으로 강력한 이미지 생성 기준선을 능가하거나 동등한 성능을 기록했습니다. 이 접근법은 속도를 위해 확률적 프레임워크를 포기하는 다른 방법과 달리 생성 궤적에 대한 정확한 가능성을 유지한다는 점에서 차별화됩니다.