온수보다 뜨거운 45°C의 혁신: AI 대형 장비를 식히는 기술

NVIDIA의 차세대 AI 인프라인 Rubin 플랫폼은 세계 최초로 100% 액체 냉각(Liquid Cooling) 방식을 채택했습니다. 시스템 내 모든 칩과 네트워킹 구성 요소가 팬 없이 폐쇄 루프 형태의 액체로 냉각됩니다.

이 기술의 핵심은 냉각수의 온도를 최대 45°C까지 높여 운영할 수 있다는 점입니다. 기존 데이터센터는 냉각을 위해 막대한 전력과 물을 사용해왔으나, 고온 액체 냉각은 다음과 같은 이점을 제공합니다.

• 에너지 효율 향상: 냉각 온도를 높임으로써 냉각에 소모되는 전력을 대폭 절감합니다.
• 물 소비 제로화: Dry-cooler 기반의 폐쇄 루프 설계를 통해 증발로 인한 물 손실을 거의 완벽하게 차단합니다.
• 운영 비용 절감: 50MW 규모의 하이퍼스케일 시설 기준, 연간 약 400만 달러 이상의 비용 절감이 가능합니다.

과거에는 데이터센터를 차갑게 유지하는 것이 효율적이라는 인식이 있었으나, 최신 실리콘 프로세서는 높은 내부 열을 견딜 수 있도록 설계되었습니다. NVIDIA의 DSX 레퍼런스 디자인은 이러한 고온 액체 냉각을 통해 데이터센터의 에너지 및 수자원 사용량을 혁신적으로 줄이는 새로운 산업 표준을 제시하고 있습니다.