AI Briefing#nccl
#nccl와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#nccl와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA가 공개한 Reshard 연산이 분리 배치 RL 환경의 가중치 전송 시간을 최대 5.7배 단축했다.
PCIe 기반 VLA 학습에서 FP8 전송으로 바이트를 48.4% 줄였으나, 병합 후 직렬 처리로 인해 critical path에 포함되면서 step time이 오히려 증가한 것으로 나타났다.
AWS가 수천 개 GPU를 묶는 UltraCluster와 용량 확보 전략을 설명했다.
NVIDIA가 AI 클러스터의 성능 격차를 줄이는 네 가지 진단 사례를 공개했다.
AWS EFA 위에서 NCCL이 GPU 집합 통신을 최적화하는 방식을 설명했다.
AWS의 ENI 구조와 할당 규칙을 이해해야 EFA 성능을 제대로 끌어낼 수 있다.