Hugging Face 모델, Vertex AI 원클릭 배포

Hugging Face와 Google Cloud의 협업을 통해 'Deploy on Google Cloud' 기능이 출시되었다. 이를 통해 개발자는 Hugging Face Hub의 모델 카드나 Google Cloud의 Vertex AI Model Garden에서 수천 개의 오픈 소스 모델을 자신의 Google Cloud 계정 내 API 엔드포인트로 쉽게 배포할 수 있다.

주요 기능 및 특징은 다음과 같다:

• 간편한 배포 프로세스: Hugging Face Hub의 'Deploy' 메뉴를 통해 Google Cloud Console로 직접 연결하여 Vertex AI 또는 **GKE(Google Kubernetes Engine)**에 모델을 즉시 배포할 수 있다.
• Vertex Model Garden 통합: Google Cloud 콘솔 내에서 'Deploy From Hugging Face' 옵션을 사용하여 모델 ID 검색만으로 검증된 하드웨어 구성과 함께 모델을 배포할 수 있다.
• 성능 및 안정성: Hugging Face의 프로덕션용 추론 솔루션인 **Text Generation Inference (TGI)**를 기반으로 하여 안정적인 모델 서빙을 지원한다.

이번 통합으로 개발자는 인프라 관리 부담을 줄이고, 보안이 유지되는 Google Cloud 환경 내에서 생성형 AI 애플리케이션을 더욱 빠르게 구축할 수 있게 되었다.