AMD GPU 매트릭스 코어 수치 동작 모델링 논문 공개

최신 GPU의 매트릭스 멀티플라이어는 IEEE 754 부동소수점 표준을 완전히 준수하지 않아, 소프트웨어 제어만으로 디바이스 간 연산 결과의 재현성을 보장하기 어렵다. 이를 해결하기 위해 AMD GPU의 CDNA 1, 2, 3 아키텍처에 대한 정확한 수치 동작 모델을 개발한 논문이 공개되었다.

연구 배경 및 문제점

GPU의 매트릭스 연산 유닛은 아키텍처와 벤더에 따라 누산기 폭(accumulator width), 반올림 동작, 정규화 시점, 중간 오버플로 처리, 서브노멀(subnormals) 처리 방식 등이 상이하다. 이러한 구현 세부 사항이 문서화되지 않아 계산 결과 불일치 발생 시 원인을 파악하기 어려웠다.

모델링 방법 및 검증

연구팀은 MI100(CDNA 1), MI210/250(CDNA 2), MI300A/300X(CDNA 3) 등 3개 아키텍처를 대상으로 연구를 진행했다.

• 테스트 벡터 설계: 모든 지원 입력 형식의 수치적 특성을 타겟팅하는 테스트 벡터를 설계했다.
• 반복적 정제: 랜덤 테스트 후 테스트 정제 루프를 반복하여 하드웨어와 **비트 단위(bit-level)**로 일치하는 MATLAB 기반 소프트웨어 모델을 구축했다.
• 검증: 1,000만 세트의 랜덤 입력 테스트 스위트를 통해 하드웨어 대비 재현성을 검증했다.

응용 및 시사점

개발된 모델을 활용하여 AMD 매트릭스 코어와 NVIDIA 텐서 코어 간의 애플리케이션 수준 정확도 차이를 정량화하는 개념 증명(PoC)을 수행했다. 이는 AI 모델 학습 및 추론 시 하드웨어 간 수치적 일관성을 확보하고 디버깅하는 데 중요한 기준점을 제공한다.