#data-parallelism와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
트랜스포머 모델의 데이터 및 텐서 병렬화 시 통신 비용이 계산 성능을 제한하는 임계점을 분석했다.
사전학습 실패의 핵심 원인으로 인과성 훼손과 수치 편향을 꼽았다.
팀네이버가 이미지 토큰 불균형을 해결해 멀티모달 모델 학습 처리량을 13.3% 높였다.