NVIDIA cuBLAS, 정수 Tensor Core 활용 FP64 정확도 유지하며 DGEMM 최대 5.5배 가속
NVIDIA cuBLAS, 정수 Tensor Core로 FP64 정확도를 유지한 채 DGEMM 최대 5.5배 가속 (feat. Ozaki-II, 2M)
·2026.11.19 11:30
핵심 내용
CUDA 13.4에서 Ozaki-II와 2M 알고리즘으로 FP64 정확도 유지하며 DGEMM 최대 5.5배 가속했다.
자세히 보기
- NVIDIA가 CUDA Toolkit 13.4에서 정수 Tensor Core를 활용한 FP64 에뮬레이션 기능을 업데이트했다.
- Vera Rubin에서 DGEMM 최대 5.5배, GB200에서 3.9배, RTX PRO 6000 Blackwell Server Edition에서 최대 23배 가속 효과를 기록했다.
- 중국인의 나머지 정리(CRT) 기반 Ozaki-II 알고리즘과 복소수 행렬 곱을 실수 GEMM 2회로 계산하는 2M 알고리즘을 적용했다.
- 자동 동적 정밀도(ADP)를 통해 필요한 가수 비트 수를 결정하고, 한도 초과 시 기본 FP64 명령으로 폴백하여 정확도를 보장한다.
- CCSD 양자화학 시뮬레이션에서 FP64 정확도 설정 시 에너지 오차 10^-14 Eh 미만으로 유지하며, Vera Rubin에서 A100 대비 4.7배 속도 향상을 보였다.
- 활성화에는 CUBLAS_EMULATE_DOUBLE_PRECISION=1 환경 변수 설정이 필요하며, CUDA 13.4 이상 및 Ampere 이후 GPU가 요구된다.
- CUDA 13.5 릴리스 노트에 Ozaki-II 복소수 연산 오류(CUB-10730)와 고정소수점 에뮬레이션 오류(CUB-10744)가 언급되어 있어 해당 버전을 사용할 때 주의가 필요하다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.