Jensen Huang이 말한 Anthropic, OpenAI, 중국, 그리고 inference token 수요

Jensen Huang은 Nvidia의 해자를 단순한 GPU 성능이 아니라, 상류 공급망을 움직이는 관계와 신뢰에서 찾는다. $250B 규모의 구매 약정이 보이는 숫자라면, 진짜 힘은 SK Hynix, Micron, TSMC 같은 파트너가 Nvidia의 수요 전망을 믿고 증설에 나서는 데 있다. CoWoS를 둘러싼 2년간의 압박이 고급 패키징을 병목에서 표준으로 바꿨고, Nvidia는 로드맵 자체를 공급망에 내재화시켰다.

비-Nvidia 학습 스토리에서 Huang이 사실상 예외로 인정한 사례는 Anthropic뿐이다. 그는 Anthropic이 TPU와 Trainium을 쓰는 흐름이 다른 랩으로 확산되는 추세가 아니라, 자본을 함께 묶어야만 성사된 특수 사례라고 본다. 핵심은 칩 벤더가 단순 공급자가 아니라, 거액의 지분 투자와 함께 오프테이크를 성사시키는 사실상의 최후 대출기관 역할까지 하고 있다는 점이다.

이 논리는 OpenAI, Anthropic, 네오클라우드 전반에 걸친 Nvidia의 지원 방식으로 이어진다. Huang은 "필요한 만큼만 하고, 가능한 한 적게 한다"는 원칙을 내세우며, CoreWeave, Nscale, Nebius를 직접 언급했다. Nvidia는 클라우드의 손익계산서를 떠안기보다, 자본 구조를 설계해 수요를 만들고 리스크는 외부에 남기는 방향을 택하고 있다.

가장 감정이 격해진 대목은 China였다. Dwarkesh Patel이 H20급 칩 판매가 중국의 공격적 역량을 키운다고 압박하자, Huang은 중국의 연구 인력, 제조 역량, 그리고 Huawei의 성장세를 강조하며 대응했다. 그는 중국 시장을 포기하면 개발자 생태계와 CUDA의 확장, 나아가 글로벌 스택의 표준 경쟁까지 내준다고 본다.

마지막으로 Huang은 inference 시장이 하나의 균일한 곡선이 아니라, 지연시간과 처리량에 따라 나뉘는 다층 시장으로 진화하고 있다고 시사했다. Nvidia는 더 높은 ASP를 받을 수 있는 저지연 토큰 영역을 의식적으로 공략하고 있으며, Groq 같은 시스템도 CUDA 안으로 흡수되는 식의 분화가 진행 중이다. 따라서 inference token 경제를 단일 단가나 단일 곡선으로 모델링하면 실제 수익 구조를 놓치게 된다.