Hugging Face, Accelerate 1.0.0 출시

Hugging Face 생태계의 핵심 기반인 Accelerate가 첫 번째 1.0.0 릴리스 후보(Release Candidate)를 발표했다. Accelerate는 transformers, diffusers, peft 등 주요 라이브러리의 기초가 되는 프레임워크로, 멀티 GPU 및 TPU 환경에서의 학습과 추론을 단순화하는 역할을 한다.

1.0.0 버전의 주요 업데이트 사항:

• FP8 지원 통합: MS-AMP 및 TransformersEngine을 통한 FP8 학습 지원.
• DeepSpeed 멀티 모델 지원: 여러 모델을 사용하는 학습 시나리오를 위한 오케스트레이션 기능(실험적).
• torch.compile 지원: 대규모 모델 추론 API에 torch.compile 적용 (torch 2.5 이상 필요).
• 분산 추론 및 데이터 로딩 개선: torch.distributed.pipelining 및 torchdata.StatefulDataLoader를 통한 대안적 메커니즘 제공.

향후 Accelerate는 torchao, torchtitan 등 PyTorch 생태계의 변화에 발맞춰 FP8 학습 안정화와 새로운 분산 샤딩 API 지원 등 최신 기술을 통합하는 데 집중할 계획이다.