Intel CPU에서 Stable Diffusion 추론 가속화

Intel의 최신 Sapphire Rapids CPU 환경에서 Stable Diffusion 모델의 추론 성능을 최적화하는 기술을 다룬다.

Optimum Intel과 OpenVINO를 활용하면 기존 Diffusers 라이브러리 코드를 최소한으로 수정하면서도 강력한 가속 효과를 얻을 수 있다.

주요 성능 및 최적화 방법은 다음과 같다:

• 2배 이상의 속도 향상: 기본 float32 모델의 추론 속도는 32.3초였으나, OpenVINO를 통해 bfloat16으로 최적화한 결과 16.7초로 단축되었다.
• 간편한 모델 변환: OVStableDiffusionPipeline을 사용하여 PyTorch 모델을 OpenVINO 형식으로 즉시 변환하고 실행할 수 있다.
• 해상도 최적화: 특정 해상도에 맞춰 파이프라인을 reshape함으로써 추가적인 성능 이득을 얻을 수 있다.