Hugging Face-AMD, AI 모델 가속화 협력
Hugging Face and AMD partner on accelerating state-of-the-art models for CPU and GPU platforms
·2023.06.13 09:00
Hugging Face와 AMD가 파트너십을 맺고 AMD CPU 및 GPU에서 트랜스포머 모델 성능을 최적화한다.
Hugging Face가 AMD를 Hardware Partner Program의 공식 파트너로 영입하며, AMD 하드웨어 플랫폼에서 최신 트랜스포머 모델의 성능을 극대화하기 위한 협력을 시작한다.
주요 지원 하드웨어:
- GPU: 기업용 Instinct MI2xx/MI3xx 및 소비자용 Radeon Navi3x 제품군
- CPU: 클라이언트용 Ryzen 및 서버용 EPYC 프로세서
- Accelerator: Alveo V70 AI 가속기
지원 모델 및 프레임워크: BERT, GPT-2, LLaMA, BLOOM, StarCoder 등 주요 생성형 AI 모델과 ViT, CLIP 등 컴퓨터 비전 모델을 지원한다. PyTorch, TensorFlow, ONNX Runtime 환경에서 최적화된 성능을 제공하는 것을 목표로 한다.
향후 계획:
AMD ROCm SDK를 transformers 라이브러리에 원활하게 통합하고, 사용자가 코드 변경을 최소화하며 AMD 하드웨어를 활용할 수 있도록 AMD 전용 Optimum 라이브러리를 구축할 예정이다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.