Gaudi 2, 단백질 모델 ProtST 가속
Accelerating Protein Language Model ProtST on Intel Gaudi 2
·2024.07.03 09:00
Intel Gaudi 2 가속기를 통해 단백질 언어 모델 ProtST의 추론 및 미세 조정 성능을 A100 대비 대폭 향상시켰다.
MILA와 Intel Labs가 개발한 멀티모달 단백질 설계 모델 ProtST를 Intel Gaudi 2 가속기에서 효율적으로 실행하고 미세 조정할 수 있는 최적화 방법을 공개했다.
Optimum for Intel Gaudi 오픈소스 라이브러리를 활용하면 기존 Transformers 기반 스크립트를 최소한의 코드 수정만으로 Gaudi 2에 포팅할 수 있다.
NVIDIA A100 80GB 대비 성능 비교 결과:
- 추론(Inference): Gaudi 2가 A100보다 1.76배 빠른 속도를 기록했다.
- 미세 조정(Fine-tuning): Gaudi 2가 A100보다 2.92배 빠른 속도를 보였으며, 4개 또는 8개의 가속기를 사용한 분산 학습 시 선형에 가까운 확장성을 입증했다.
ProtST 모델과 관련 데이터셋은 Hugging Face Hub를 통해 제공된다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.