#pipeline-parallelism
#pipeline-parallelism와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#pipeline-parallelism와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Cerebras가 59개 웨이퍼에 Kimi K3를 배포해 초당 1000-2000+ 토큰 처리를 달성했다
Templar가 파이프라인 병렬 학습 중 장애 발생 시 스테이지를 생략해 학습을 지속하는 시뮬레이션 결과를 공개했다.
SpaceX가 JAX 대비 10배 이상의 성능 향상을 목표로 C 언어 기반 자체 AI 학습 스택 V1.0 개발을 거의 완료했다.
프론티어 모델은 distillation을 막기 어렵고, 대규모 pretraining은 작은 bias와 causality 위반에도 쉽게 무너진다.
DP, FSDP, TP 등 주요 분산 학습 기법을 밑바닥부터 구현한 PyTorch 교육용 저장소가 공개되었습니다.