Hugging Face Inference API로 AI Comic Factory 배포하기

Hugging Face의 새로운 Inference for PROs 기능을 활용하여, 대기 시간 없이 AI Comic Factory를 개인용 Space로 복제하고 운영하는 방법을 설명한다.

AI Comic Factory는 NextJS와 Docker 기반의 클라이언트-서버 구조로 작동하며, 원활한 구동을 위해 다음 두 가지 API가 필요하다:

• 언어 모델(LLM) API: Llama-2
• 이미지 생성(Stable Diffusion) API: SDXL 1.0

배포 및 설정 핵심 사항:

• 환경 변수 설정: LLM_ENGINE과 RENDERING_ENGINE을 모두 INFERENCE_API로 설정하여 Hugging Face의 API를 호출하도록 구성한다.
• 모델 구성: meta-llama/Llama-2-70b-chat-hf와 stabilityai/stable-diffusion-xl-base-1.0 모델이 기본값으로 사용된다.
• 필수 조건: 해당 모델들에 대한 접근 권한을 위해 Hugging Face PRO 계정이 필요하다.

이 가이드를 통해 사용자는 대규모 사용자가 몰리는 공식 Space의 대기 시간을 피하고, 자신만의 환경에서 AI 만화 생성 도구를 구축할 수 있다.