RTX 6000 Pro, Qwen3.6 27B 벤치
4080 Super > RTX 6000 Pro, Wow!
·2026.05.02 08:15
RTX 6000 Pro가 4080 Super보다 Qwen3.6 27B 추론에서 크게 빨랐다.
RTX 6000 Pro rig에서 Qwen3.6 27B를 돌리자 4080 Super 대비 성능 차이가 크게 벌어졌다.
- 4080 Super: Qwen3.6 27B Q2 양자화, 약 6 tok/s, TTFT 약 60초
- RTX 6000 Pro: Qwen3.6 27B Q8 XL, 67 tok/s, TTFT 약 1초
초기 LM Studio 벤치 기준으로 토큰 생성은 약 10배, 프롬프트 처리 속도는 약 60배 빨랐다. 아직 추가 튜닝은 하지 않은 상태다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.