고해상도 이미지 합성을 위한 Rectified Flow Transformer 스케일링
·2024.03.05 17:33
Rectified Flow 모델의 노이즈 샘플링을 개선하고 새로운 Transformer 아키텍처를 도입해 고해상도 이미지 합성 성능을 높였다.
Rectified Flow는 데이터와 노이즈를 직선으로 연결하는 생성 모델 방식으로, 이론적 이점과 단순함에도 불구하고 아직 표준적인 방식으로 완전히 자리 잡지는 못했다. 기존의 노이즈 샘플링 기술을 개선하여 지각적으로 중요한 스케일에 가중치를 두는 방식을 통해 성능을 높였다.
또한, 텍스트와 이미지의 두 모달리티에 별도의 가중치를 사용하고 양방향 정보 흐름을 지원하는 새로운 Transformer 기반 아키텍처를 선보였다. 이 아키텍처는 텍스트 이해도, 타이포그래피, 그리고 사용자 선호도 평가에서 개선된 결과를 보여준다.
연구의 주요 성과는 다음과 같다:
- 기존 Diffusion 모델 대비 고해상도 텍스트-이미지 합성 분야에서 우수한 성능 입증
- 예측 가능한 스케일링 트렌드 확인 및 검증 손실(Validation loss)과 합성 성능 간의 상관관계 입증
- 최신 기술(SOTA) 모델을 능가하는 성능 달성
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.