모드 붕괴에 당신도 예외가 아니다

mode collapse(모드 붕괴)는 생성 모델이 훈련 분포의 가장 흔한 출력으로 쏠리는 현상이다. AI 생성 데이터를 다시 학습할수록 작은 편향이 다음 세대에 누적되며, 분포는 점점 더 가장 흔한 쪽으로 고착된다.

이미지 생성기 예시에서는 50:50처럼 대칭적이면 자원을 균등하게 나눌 수 있지만, 70:30처럼 한쪽이 더 흔해지면 모델은 더 잘 그릴 수 있는 쪽을 택하고, 그 선택이 다음 학습 단계에서 더 강한 편향으로 돌아온다. 그래서 애매한 상황에서는 정답을 놓쳤을 때의 손실보다 맞췄을 때의 이득이 더 큰 개 쪽으로 기울게 되고, 재학습할수록 개가 더 많이 나온다.

• 기금 배분 기관은 70:30의 글로벌 보건·동물복지 제안서를 받으면, 평가가 더 쉬운 글로벌 보건 쪽으로 75:25까지 기울고, 새로 뽑은 평가자도 그 편향을 물려받는다.
• 밴드는 첫 앨범의 7개 팝과 5개 록에서 출발해 다음 앨범은 9:3으로, 세 번째에는 록을 포기하고, 여유가 생긴 뒤에야 다섯 번째 앨범에서 IDM 같은 새 방향을 시도한다.
• 분업은 무역의 이익만으로 설명되지 않는다. 회계사와 퍼스널 트레이너처럼 반복적으로 보상을 받는 쪽의 기술이 더 빨리 강화되고, 다른 선택지는 점점 뒤처진다.

핵심은 **여유(slack)**다. 시간과 자원이 없으면 낯선 선택지를 유지하거나 새 기술을 익힐 수 없고, 외딴섬의 사냥·낚시처럼 한쪽이 점점 더 유리해져 결국 더 극단적인 전문화로 흘러간다. 진화에서도 이런 경향은 나타나며, 각주에서는 밀도가 높거나 단순하고 생성하기 쉬운 대상이 더 선호된다고 정리한다.