SYCL 벤치 공개
llama-bench results with SYCL backend - Intel Arc B70 (on a pcie 3.0 motherboard)
·2026.04.20 01:03
Intel Arc B70에서 SYCL 백엔드로 pp4096 301.39 t/s, tg512 24.62 t/s 기록.
Intel Arc B70을 PCIe 3.0 메인보드(H P Z640, Ubuntu 26.04 beta)에서 구동한 llama-bench 결과다.
테스트는 Qwen3.6-35B-A3B-UD-Q4_K_XL.gguf 모델로 진행했고, -d 8192, -p 4096, -n 512, --flash-attn 1 조건을 사용했다.
- pp4096 @ d8192: 301.39 ± 2.92 t/s
- tg512 @ d8192: 24.62 ± 0.07 t/s
배치 설정은 b=512~4096, ub=512~2048 범위에서 조합을 바꿔가며 측정했고, 현재 공개된 표에는 SYCL 백엔드에서 ngl 99, n_batch 512, type_k/type_v=q8_0 조합의 결과가 담겨 있다.
작성자는 같은 조건에서 context window를 131072로 늘린 추가 벤치와 Vulkan 백엔드와의 비교도 이어서 공개할 예정이라고 밝혔다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.