Qwen 3.6 1L 벤치

Qwen 3.6 for Claude Code in 1L

·2026.04.17 06:47

핵심 내용

RTX 2000 Ada 16GB에서 Qwen 3.6 35B를 프롬프트 400 t/s, 생성 24 t/s로 구동한 사례.

p3 tiny gen 2와 RTX 2000 Ada 16GB에서 **Qwen 3.6 35B A3B Q4_K_M (Unsloth)**를 구동했고, 프롬프트 속도는 400 t/s, 생성 속도는 24 t/s였다.

핵심은 llama.cpp의 PR 21793 변경을 적용해 Claude Code와 맞춘 점과 prompt prefix cache였다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.