로컬 35B의 반란

Qwen3.6 35B A3B를 4-bit 양자화로, 2장의 Tesla P40에서 돌려 로컬 코딩 에이전트의 한계를 시험했다.

대상은 SWE-bench Verified로, 실제 Python 저장소의 버그를 고쳐 숨겨진 테스트를 통과해야 하는 벤치마크다.

원문은 이 벤치마크가 왜 비싼지, 그리고 로컬 모델로도 실용적인 코드 패치를 만들 수 있는지 확인하려는 실험의 출발점을 설명한다.

비교 기준으로는 상위 모델들의 공개 수치를 함께 언급하며, GPT-5 Mini 56.2% 같은 기존 성능표와 대비되는 맥락을 제시한다.

핵심은 거대한 클라우드 모델 없이도, 구체적인 하드웨어와 설정을 갖춘 로컬 환경에서 에이전틱 코딩 성능을 얼마나 끌어올릴 수 있는지 검증하는 점이다.