PyTorch 2.15, 신규 NCCL 백엔드와 Apple Silicon FP8 지원
PyTorch 2.15 출시 공지 | 파이토치 한국 사용자 모임
·2026.10.29 16:04
핵심 내용
PyTorch 2.15가 CUDA 13.4 휠과 Python 3.10 중단으로 출시했다
자세히 보기
- PyTorch 2.15는 기존 ProcessGroupNCCL을 대체하는 신규 NCCL 백엔드를 분산 학습 기본값으로 도입했으며, TORCH_DIST_USE_NCCL2=0 또는 nccl-legacy 백엔드를 통해 이전 버전으로 롤백 가능함
- Apple Silicon에서 네이티브 Metal 커널을 지원하여 업샘플링 백워드가 최대 21.7배, 노름 리덕션이 100배 빨라지는 등 성능이 크게 향상되었으며, torch.float8_e4m3fn 지원 추가됨
- Linux x86_64, aarch64, Windows용 CUDA 13.4 GA 휠을 제공하며 NVIDIA Rubin GPU에 대한 실험적 지원을 포함하고, 기본 휠은 CUDA 13.2로 변경됨
- Python 3.10 지원이 중단되어 3.11 이상이 필요하며, MPS 가속을 위해 macOS 14 지원이 중단되고 macOS 15 이상 요구됨
- FSDP2와 파이프라인 병렬화가 메모리 및 통신 제어 기능을 강화하여, 그라디언트 축적 단계에 대한 단일 CUDA 그래프 캡처와 파이프라인 엣지를 위한 전용 P2P 통신기 지원함
- NIXL 백엔드를 활용한 새로운 원사이드 전송 API를 통해 프로세스 그룹 없이 피어 연결이 가능해져, 전송 스트림의 CUDA 그래프 캡처를 지원함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.