비용 대비 지능 (Intelligence Per Dollar)

Microsoft가 모델 출시 정보(release card)에 **평균 토큰 사용량(average token usage)**이라는 새로운 지표를 추가하며, 성능과 비용을 동시에 고려하는 새로운 표준을 제시했다. 예를 들어, Microsoft의 모델은 SWE-Bench Verified에서 높은 성능을 기록하면서도 Claude Haiku 4.5 대비 약 1/3의 토큰만 사용한다.

이제 AI 벤치마크는 단순한 성능 측정을 넘어, 특정 지능 수준을 달성하는 데 드는 비용까지 포함하는 두 가지 차원으로 측정된다. 이는 무분별한 보조금 지급이나 벤치마크 점수를 높이기 위해 토큰을 과도하게 사용하는 tokenmaxxing의 시대가 끝나고 있음을 시사한다.

실제로 Uber는 AI 지출 예산을 4개월 만에 소진하여 직원들의 AI 사용을 제한했으며, Salesforce는 Anthropic 토큰 비용으로 3억 달러를 지출하며 엔지니어 채용을 동결했다.

결국 기업 고객의 핵심 질문은 "**달러당 지능(intelligence per dollar)**이 얼마인가?"로 귀결된다. 모델 기업은 성능과 비용 모두에서 경쟁해야 하며, 애플리케이션 계층은 최종적으로 티켓 해결이나 코드 배포와 같은 **결과물당 비용(dollars per outcome)**을 기준으로 경쟁하게 될 것이다.