Segmind, 경량 SD 모델 공개

Segmind가 생성형 AI 모델의 효율성을 높이기 위해 압축된 SD-Small 및 SD-Tiny 모델의 가중치와 학습 코드를 오픈소스로 공개했다.

이 모델들은 지식 증류(Knowledge Distillation) 기술을 적용하여 기존 모델 대비 파라미터 수를 각각 35%와 55% 감소시켰으며, 이미지 품질은 최대한 유지하도록 설계되었다.

핵심 기술 및 학습 정보:

• Block-removal KD: UNet 레이어 일부를 제거한 후 학생 모델을 학습시키는 방식을 채택했다.
• 다중 손실 함수: Latent 손실과 더불어, 교사 모델과 학생 모델의 블록 출력을 일치시키는 Feature-level loss를 활용해 품질 저하를 최소화했다.
• 학습 환경: Realistic-Vision 4.0을 교사 모델로, LAION Art Aesthetic 데이터셋을 사용하여 학습을 진행했다.

학습 코드는 GitHub에서, 사전 학습된 체크포인트는 Hugging Face에서 확인할 수 있다.