향후 몇 년간 컴퓨팅 비용이 10배 더 비싸질 수 있는 이유

AI 연구소들의 매출이 폭발적으로 성장하기 위해서는 컴퓨팅 자원의 가치가 급격히 상승해야 한다. 현재 Anthropic과 같은 기업들은 매년 매출이 10배씩 성장하고 있으며, 이러한 추세를 유지하려면 컴퓨팅 비용의 상승이나 마진 확대가 필수적이다.

현재 AI 연구소들의 컴퓨팅 지출은 매년 3배씩 증가하고 있다. 매출이 컴퓨팅 지출보다 훨씬 빠르게 늘어나려면 다음 세 가지 중 하나가 반드시 일어나야 한다.

• 연구소의 마진(Margin) 증가
• 컴퓨팅(Compute) 가격의 상승
• 컴퓨팅 지출 중 추론(Inference) 비중의 확대

실제로 연구소들은 컴퓨팅 비용을 단순한 운영비가 아닌, 더 큰 모델을 훈련하기 위한 투자 자산으로 보고 있다. 특히 모델이 똑똑해질수록 동일한 컴퓨팅 자원으로 더 많은 수익을 창출할 수 있게 되는데, 이는 컴퓨팅의 가치를 높이는 핵심 동력이 된다.

예를 들어, H100급 성능을 가진 AI가 인간 수준의 소프트웨어 엔지니어 역할을 수행할 수 있다면, 해당 GPU의 가치는 현재 시장가보다 훨씬 높은 연간 $250,000 이상의 가치를 지니게 될 것이다. 이는 현재 스팟 가격(Spot price)의 약 15배에 달하는 수치다.

이미 대형 테크 기업들은 스팟 가격보다 훨씬 높은 비용을 지불하며 컴퓨팅을 확보하고 있다. Google이 SpaceX로부터 GPU를 렌트할 때 지불하는 비용은 스팟 가격의 약 2배에 달하며, 이는 안정적인 인프라 확보를 위한 비용이 이미 상승하고 있음을 보여준다.