AI 버블위프 효과: GPU부터 데이터센터까지 연쇄적 병목

AI 인프라의 하드웨어 병목은 단순한 일회성 부족이 아니라, GPU에서 메모리, SSD, CPU, HDD를 거쳐 물리적 데이터센터 구축까지 이어지는 다년간의 연쇄적 파도(Bullwhip Effect) 형태로 나타나고 있다. 각 단계의 공급 차질은 다음 구성 요소의 공급망을 동결시키며, 이는 전체 비용의 기준선을 지속적으로 높이는 결과를 초래한다.

2023년 초 ChatGPT 출시로 Nvidia H100 수요가 폭증하며 GPU 가격이 치솟자, 서버 단가 인상을 감당하지 못한 기업들은 기존 서버 교체 주기를 유보했다. 이로 인해 서버 출하량은 2023년 22% 감소했으며, 메모리 제조사들은 이미 팬데믹 이후 공급 과잉으로 인한 손실을 입은 상태에서 서버 수요 감소라는 이중고를 겪었다.

18개월 후, 제조사들은 AI 마진을 추격하기 위해 클린룸과 리소그래피 장비를 HBM(고대역폭 메모리) 생산으로 전환했다. HBM은 표준 DDR5 대비 기가바이트당 웨이퍼 용량을 약 3배 소모하므로, HBM 생산 증가는 일반 메모리 공급을 급격히 줄였다. 그 결과 엔터프라이즈 SSD 계약 가격은 분기별 80% 상승했고, DRAM 가격도 분기별 60% 초반대의 급등세를 보였다.

2025년 말에는 AI 에이전트의 확산으로 서버 CPU 수요가 급증했다. 기존 학습 클러스터는 CPU 1개당 GPU 8개의 비율이었으나, 에이전트 워크플로우는 코드 컴파일, 도구 호출, 상태 관리 등으로 CPU 부하가 높아지며 비율이 1:1에 가까워졌다. Intel은 미충족된 Xeon 수요를 언급하며 서버 CPU 평균 판매 가격(ASP)이 전년 대비 27% 상승했다고 보고했다.

2026년에는 대용량 저장소 부족이 현실화되었다. 테라바이트당 150달러라는 고가 플래시 메모리 대신, 클라우드 아키텍트들은 느리지만 저렴한 HDD로 회귀했다. Western Digital과 Seagate는 2026년 네어라인(Nearline) HDD 생산 물량이 모두 매진되었음을 확인했다.

서버 하드웨어를 넘어 물리적 데이터센터 구축 비용도 급등했다. 현재 데이터센터 구축 비용은 기가와트당 **200억 달러($20b/GW)**를 상회하며, 전기 시스템이 예산의 절반을 차지한다. 평방피트당 건설 비용은 3배로 상승했고, GSU(발전기 승압) 변압기의 납기 기간은 평균 3년으로 길어졌다. GE Vernova와 Siemens Energy의 터빈 생산은 2029년까지 매진되어 주문서가 2031년까지 이어지고 있다. 이는 AI 인프라 확장이 단순한 기술적 과제를 넘어, 공급망 전체의 구조적 병목과 막대한 자본 부담을 동반하는 복합적 위기로 전환되었음을 시사한다.