ZeroGPU Spaces, AoT 컴파일로 성능 1.8배 향상

Hugging Face의 ZeroGPU는 Nvidia H200 하드웨어를 효율적으로 공유하여 사용할 수 있게 해주지만, 모델 실행 시 발생하는 초기화 비용으로 인해 이미지나 비디오 생성 속도가 저하될 수 있다.

PyTorch의 Ahead-of-Time (AoT) 컴파일을 적용하면 모델을 미리 최적화한 후 즉시 로드할 수 있어, ZeroGPU의 짧은 프로세스 수명 주기 문제를 해결하고 성능을 극대화할 수 있다.

주요 성과 및 기술적 특징은 다음과 같다:

• 성능 향상: Flux, Wan, LTX 모델 기준 1.3배~1.8배의 속도 향상 달성
• 고급 최적화: FP8 양자화, dynamic shapes, FlashAttention-3 적용 가능
• 효율성: 컴파일된 그래프를 활용해 데모 실행 시 지연 시간을 대폭 단축