RTX 6000 Pro, Qwen3.6 27B 벤치
4080 Super > RTX 6000 Pro, Wow!
·2026.05.02 08:15
핵심 내용
RTX 6000 Pro가 4080 Super보다 Qwen3.6 27B 추론에서 크게 빨랐다.
자세히 보기
RTX 6000 Pro rig에서 Qwen3.6 27B를 돌리자 4080 Super 대비 성능 차이가 크게 벌어졌다.
- 4080 Super: Qwen3.6 27B Q2 양자화, 약 6 tok/s, TTFT 약 60초
- RTX 6000 Pro: Qwen3.6 27B Q8 XL, 67 tok/s, TTFT 약 1초
초기 LM Studio 벤치 기준으로 토큰 생성은 약 10배, 프롬프트 처리 속도는 약 60배 빨랐다. 아직 추가 튜닝은 하지 않은 상태다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.