NVIDIA, 생산성·내구성·범용성으로 AI 팩토리 ROI 극대화 전략 공개

AI 팩토리 운영자는 메가와트(MW) 단위로 자본을 투입하며, 1MW당 공장 건설 비용은 약 6,000만 달러다. 투자 수익률(ROI)은 수익 창출 능력, 수명, 수요라는 세 가지 상호 의존적 요인에 따라 결정된다. NVIDIA는 엔지니어링 코드 설계, 장기적 하드웨어 지속성, 광범위한 워크로드 호환성을 통해 이 세 가지 요소를 극대화한다고 주장한다.

생산성: 처리량과 비용

전력은 AI 팩토리의 핵심 제약 조건이므로, 수익 창출 능력을 측정하는 주요 지표는 메가와트당 초당 토큰 수다. SemiAnalysis AgentX 데이터에 따르면 NVIDIA Vera Rubin NVL72 시스템은 NVIDIA GB300 NVL72 대비 메가와트당 처리량이 30배 이상 높으며, DeepSeek V4 Pro 모델에서 백만 토큰당 비용을 최대 45배까지 낮춘다. 이러한 성과는 모델, 소프트웨어, 컴퓨팅, 네트워킹, 메모리 전반에 걸친 극단적인 코드 설계에서 비롯된다.

내구성: 하드웨어 수명 연장

모든 워크로드가 최신 하드웨어를 필요로 하는 것은 아니므로, 이전 세대 제품도 경제적 타당성을 유지한다. 2020년 출시된 NVIDIA A100 GPU는 여전히 상업적 서비스 중이며, CoreWeave는 해당 장비의 예약을 2029년까지 연장했다. 시장 데이터도 이러한 수명을 뒷받침한다. Silicon Data는 6년 된 A100이 원래 가치의 4분의 1을 유지한다고 보고했으며, Ornn Data는 5년 된 A100의 임대 계약 시장 가격이 1개월 계약의 80% 수준임을 확인했다. CUDA는 세대 간 소프트웨어 호환성을 보장하여 자산의 고립을 방지한다.

범용성: 광범위한 워크로드 지원

NVIDIA GPU는 커스텀 ASIC이 아닌 범용 가속기로서 다양한 AI 및 비AI 워크로드를 실행한다. 이 플랫폼은 언어, 비전, 생물학, 물리학, 로보틱스 등 모든 개발 단계의 작업을 지원한다. 1,000개가 넘는 CUDA-X 라이브러리는 컴퓨팅 리소그래피부터 기후 모델링까지 다양한 애플리케이션을 가능하게 한다. 실제 배포 사례로는 Pinterest가 비전 언어 모델을 위해 14,000개의 GPU를 사용하며, Texas A&M University는 분자 시뮬레이션에서 **95-98%**의 활용률을 달성했다. 이러한 다재다능함은 특정 AI 트렌드가 변화하더라도 팩토리가 수익을 창출할 수 있도록 보장한다.