24시간 만에 이미지 모델 학습 레시피 공개

Photoroom이 32개의 H200 GPU와 약 1,500달러의 예산으로 24시간 동안 진행한 텍스트-이미지(Text-to-Image) 모델 학습 스피드런 결과를 공개했다. 이번 실험은 제한된 컴퓨팅 자원 내에서 성능을 극대화할 수 있는 최적의 학습 조합을 찾는 데 중점을 두었다.

주요 기술적 특징은 다음과 같다:

• 픽셀 공간(Pixel Space) 직접 학습: x-prediction 공식을 사용하여 VAE 없이 픽셀 공간에서 직접 학습한다. 이를 통해 구조를 단순화하고 효율성을 높였다.
• 효율적인 토큰 관리: 패치 크기 32와 256차원 병목(bottleneck) 레이어를 사용하여 고해상도에서도 시퀀스 길이를 제어한다.
• 학습 스케줄 최적화: 기존의 단계적 해상도 증가 방식 대신, 512px에서 시작하여 1024px로 파인튜닝하는 전략을 사용한다.
• 지각 손실(Perceptual Losses) 활용: 픽셀을 직접 예측하므로 클래식 컴퓨터 비전의 다양한 지각 손실 함수를 손쉽게 적용할 수 있다.

Photoroom은 이번 실험에 사용된 학습 코드와 실험 프레임워크를 **GitHub(PRX)**를 통해 오픈소스로 공개했다.