테크 기업들이 더 저렴한 AI 모델을 선택하게 될까?

그동안 AI 산업은 더 큰 모델이 더 강력하다는 가정하에 Scaling Law를 따라 급성장해 왔다. 하지만 최근 모델 운영 비용이 상승하면서, 기업들이 성능 저하 없이 더 저렴한 모델을 찾는 Cost-conscious model-shopping 현상이 나타나고 있다.

Coinbase의 공동 창립자 Brian Armstrong은 향후 12~18개월 내에 전체 워크로드의 80%가 기존보다 99% 저렴한 모델로 이동할 것이라고 예측했다. 나머지 20%만이 최고 수준의 지능이 필요한 작업에 최신 모델을 사용할 것이라는 전망이다.

실제로 법률 AI 도구인 Harvey는 Fireworks AI와 협력하여 Claude Opus와 GLM 5.1을 혼합 사용하는 방식을 통해, 품질 저하 없이 추론 비용을 3배 절감하는 데 성공했다. 이는 모든 작업에 무조건 가장 강력한 모델을 쓰는 것이 아니라, 작업의 성격에 맞는 최적의 모델을 선택하는 것이 중요해졌음을 시사한다.

이러한 변화는 단순히 폐쇄형 모델과 오픈 웨이트 모델 간의 경쟁을 넘어, 대형 모델(Large models)과 소형 모델(Small models) 간의 구도로 재편될 가능성이 높다. 만약 대부분의 작업이 소형 모델로 충분하다는 것이 증명된다면, 거대 모델 개발을 위한 막대한 추론 수요와 학습 비용 정당화에 대한 근본적인 의문이 제기될 것이다.