6900 XT ROCm·Vulkan 비교
AMD Radeon RX 6900 XT - ROCm vs Vulkan - Gemma 4 and Qwen 3.5 speed benchmarks
6900 XT에서 ROCm 6.4.2와 Vulkan을 비교한 llama.cpp 벤치마크를 공개했다.
AMD Radeon RX 6900 XT에서 llama.cpp를 ROCm 6.4.2와 최신 Vulkan으로 빌드해 속도를 비교했다.
Gemma 4 E2B Q4_K에서는 pp512가 ubatch 64/128/512/1024에서 Vulkan이 더 빨랐고, 32/256에서는 ROCm이 앞섰다. tg128은 전 구간에서 Vulkan이 우세해 173.35~174.59 tok/s를 기록했으며, ROCm은 151.41~151.92 tok/s 수준이었다.
Qwen 3.5 4B Q8_0에서는 pp512가 모든 ubatch에서 ROCm 우위였다. ubatch 32에서 1368.32 vs 706.18, ubatch 1024에서 3019.70 vs 2386.97로 차이가 컸다.
tg128은 Qwen 3.5에서도 Vulkan이 전 구간에서 앞섰다. Vulkan은 88.46~88.58 tok/s, ROCm은 77.57~77.97 tok/s 범위였다.
요약하면, 이 6900 XT 환경에서는 Vulkan이 생성 속도에서 안정적으로 강했고, ROCm은 Qwen 3.5의 프롬프트 처리에서 더 높은 처리량을 보였다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.