AI BriefingHugging Face, AWS Trainium용 TorchNeuron 모델 지원 Space 공개
Does Your Model Run on AWS Trainium? Look It Up
·2026.10.23 09:00
핵심 내용
Hugging Face가 AWS Trainium2 호환성을 검증하는 TorchNeuron Space를 출시했다.
자세히 보기
- Hugging Face가 TorchNeuron 백엔드를 사용해 Transformers 모델이 AWS Trainium에서 수정 없이 실행되는지 확인하는 Space를 출시함
- 해당 도구는 Trainium2(trn2) 인스턴스에서 최대 16개 코어(4개 디바이스)에 걸쳐 샤딩을 수행하고 32개 토큰을 생성하여 출력을 검증함
- 결과는 컴파일러 및 라이브러리 버전별 Parquet 파일로 구성된 공개 데이터셋(aws-neuron/torch-neuronx-model-support)에 저장되며 pandas를 통해 직접 조회 가능함
- 각 모델에 사용된 정확한 Neuron 스택, 패키지, run.py 스크립트를 조회할 수 있으며 공개 NEFF 캐시에서 컴파일된 그래프를 동기화하여 컴파일을 생략하는 명령어도 포함됨
- 현재 지원 범위는 텍스트 생성 및 이미지-텍스트-투-텍스트 모델로 제한되며 diffusers와 sentence transformers로 확장할 계획임
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
