AI의 급격한 가격 하락은 하드웨어가 아닌 소프트웨어의 이야기다

AI 추론 비용은 매년 70~90%씩 급락하고 있다. 이를 LLMflation이라 부르는데, 비용 하락의 핵심 동력은 하드웨어의 발전보다 소프트웨어의 최적화에 있다.

최근 Qwen 3.6 27B와 같은 오픈 웨이트 모델은 4년 전 소비자용 GPU인 Nvidia RTX 3090 Ti에서도 원활하게 작동한다. 이 모델은 Anthropic의 Claude Sonnet과 대등한 성능을 보여준다.

실제 테스트 결과, Qwen 3.6 27B는 일일 브리핑 요약 및 논문 평가 작업에서 유료 클라우드 API인 Sonnet과 유사하거나 오히려 더 나은 성능을 기록했다. 이는 오픈 웨이트 모델이 일상적인 사용 환경에서 프론티어 모델을 대체할 수 있는 수준에 도달했음을 의미한다.