Hugging Face, 최적화 툴킷 Optimum 출시

Hugging Face가 트랜스포머 모델을 프로덕션 환경에서 효율적으로 실행하고 학습시키기 위한 오픈소스 라이브러리 Optimum을 출시했다.

Optimum은 특정 하드웨어 플랫폼의 성능을 극대화하기 위해 설계되었으며, 모델 가속화 기술을 하드웨어와 소프트웨어 간의 복잡한 호환성 문제 없이 쉽게 적용할 수 있도록 지원한다.

주요 기능은 다음과 같다:

• 하드웨어 맞춤형 최적화: 각 하드웨어 플랫폼이 제공하는 소프트웨어 툴링과 기능을 활용하여 모델 성능을 최적화한다.
• 가속 기술 적용: 양자화(Quantization) 및 **희소성(Sparsity)**과 같은 고급 기술을 특정 하드웨어의 연산 방식에 최적화된 커널로 실행할 수 있게 한다.
• 운영 편의성: 머신러닝 엔지니어가 복잡한 하드웨어 최적화 과정을 직접 수행하지 않고도 모델을 대규모로 배포할 수 있도록 돕는다.