이미지 생성 모델의 미적 편향성 문제 지적

ICML 2026 Spotlight 논문은 이미지 생성 모델의 미적 선호도 최적화(Aesthetic Preference Optimization) 과정에서 발생하는 부작용을 다룹니다.

연구진은 모델이 사용자의 명시적인 요청보다 학습된 미적 사전 확률(Aesthetic Prior)을 우선시하여, 의도와 다른 결과물을 내놓는 역방향 정렬(Reversed Alignment) 현상을 정의했습니다.

주요 실험 내용은 다음과 같습니다:

• 비미적(Anti-aesthetic) 프롬프트 테스트: 흐릿함(Blurry), 왜곡(Distorted), 저화질(Low-fidelity), 부정적 감정 등 일반적인 미적 기준에 어긋나는 이미지 생성을 요청.
• 결과: 모델이 사용자의 의도를 이해하더라도, 결과물이 모델이 학습한 주류 미적 기준에 의해 다시 끌려가는 현상 확인.
• 핵심 과제: 프롬프트 이해(Prompt Understanding)와 선호도 오버라이드(Preference Override)를 분리하여 평가하는 설계의 필요성 제기.