Moebius: 10B급 성능을 구현하는 0.2B 경량 이미지 인페인팅 프레임워크
Moebius는 LλMI 블록과 적응형 증류 전략을 통해 파라미터 수를 2% 미만으로 줄이면서도 대규모 모델에 필적하는 성능을 내는 경량 인페인팅 프레임워크다.
기존의 10B(100억 개) 규모 산업용 파운데이션 모델은 이미지 Inpainting 성능은 뛰어나지만, 막대한 연산 비용으로 인해 실제 서비스 배포에 어려움이 있다. 이를 해결하기 위해 제안된 Moebius는 구조적 압축 과정에서 발생하는 표현력 저하 문제를 극복하는 데 집중한다.
Moebius는 LλMI(Local-λ Mix Interaction) 블록을 도입하여 Diffusion 백본을 재구성했다. Local-λ와 Interactive-λ 모듈로 구성된 이 블록은 공간적 문맥과 전역적 의미 정보를 고정된 크기의 선형 행렬로 요약하여, 파라미터 수를 획기적으로 줄이면서도 복잡한 잠재 상호작용을 보존한다.
또한, 모델의 표현 능력을 극대화하기 위해 적응형 다중 입도 증류(Adaptive Multi-granularity Distillation) 전략을 결합했다. 이 전략은 비용이 많이 드는 픽셀 공간 디코딩을 피하기 위해 오직 Latent Space 내에서만 작동하며, 여러 Gradient 기반 손실 함수를 동적으로 균형 있게 조절하여 고정밀 정렬을 달성한다.
실험 결과, Moebius는 자연 이미지 및 인물 벤치마크에서 10B 규모의 FLUX.1-Fill-Dev 모델과 대등하거나 오히려 뛰어난 생성 품질을 보여주었다. 특히 0.22B의 파라미터만 사용하여 기존 모델 대비 15배 이상의 추론 속도를 달성하며 고정밀 인페인팅의 새로운 효율성 기준을 제시했다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.
