Dell Enterprise Hub 공개

Hugging Face가 Dell 플랫폼을 활용해 온프레미스(On-premise) 환경에서 오픈 모델을 손쉽게 학습하고 배포할 수 있는 Dell Enterprise Hub를 발표했다.

기업이 보안 및 컴플라이언스 요구사항을 충족하기 위해 오픈 모델을 자체 인프라 내에서 운영할 수 있도록 돕는 것이 핵심이다.

주요 특징:

• 큐레이션된 모델 제공: Llama 3, Mixtral, Gemma 등 최신 오픈 모델을 라이선스 및 크기별로 필터링하여 제공한다.
• 간편한 배포 프로세스: 지원되는 Dell 플랫폼과 GPU 수를 선택한 후 제공된 스크립트를 실행하면, 하드웨어에 최적화된 구성으로 API 엔드포인트가 즉시 생성된다.
• 온프레미스 미세 조정(Fine-tuning): 기업의 기밀 데이터를 외부로 유출하지 않고 로컬 환경에서 모델을 최적화할 수 있도록 지원한다.

이 솔루션을 통해 기존에 수주가 소요되던 LLM 구축 및 엔지니어링 작업을 단 몇 분으로 단축할 수 있다.