Core ML 기반 Stable Diffusion 가속
Faster Stable Diffusion with Core ML on iPhone, iPad, and Mac
·2023.06.15 09:00
Apple의 Core ML 최적화와 6비트 팔레타이제이션을 통해 Apple 기기에서 Stable Diffusion을 더 빠르고 효율적으로 실행할 수 있다.
WWDC'23에서 발표된 Core ML의 새로운 최적화 기술을 통해 iPhone, iPad, Mac에서 Stable Diffusion을 더 빠르고 적은 메모리로 실행할 수 있게 되었다.
주요 기술적 변화는 다음과 같다:
- 6비트 팔레타이제이션(6-bit palettization): 모델 가중치를 16비트 부동 소수점에서 6비트로 압축하여 저장 공간과 다운로드 시간을 대폭 줄인다.
- 실시간 압축 해제: 기존에는 모델 로드 시 전체 압축을 해제하여 메모리 사용량이 컸으나, 새로운 방식은 추론 과정에서 레이어별로 가중치를 즉시 변환하여 메모리 점유율을 획기적으로 낮춘다.
- coremltools 지원:
coremltools.optimize서브모듈을 통해 PyTorch나 TensorFlow 모델을 최적화된 Core ML 형식으로 변환할 수 있다.
이러한 개선은 온디바이스(On-device) AI 실행의 편의성, 개인정보 보호, API 비용 절감을 원하는 개발자들에게 유용하다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.