NVIDIA, OCP에 Vera Rubin 아키텍처 개방… MGX 1.2로 AI 팩토리 확장

NVIDIA가 Open Compute Project(OCP) 글로벌 서밋에서 차세대 AI 인프라 구축을 위한 새로운 파트너십과 기여 사항을 발표했다. 회사는 개방형 NVIDIA MGX 아키텍처를 통해 주요 NVIDIA Vera Rubin 랙 및 컴퓨트 트레이 설계를 OCP에 기여하여, 시스템 빌더들이 AI 팩토리 인프라를 개발할 수 있는 표준 기반을 제공했다.

MGX 1.2 및 Vera CPU 랙

NVIDIA는 업계 리더들과 함께 3세대 MGX AI 데이터센터 레퍼런스 설계에 기여했다. 업데이트된 MGX 1.2 사양은 개방형 아키텍처를 확장하여 랙 스케일 블라인드 메이트 액체 냉각, 상호 운용 가능한 랙 스케일 인터커넥트 인프라, 그리고 고전력 시스템을 위한 액체 냉각 5,000A 버스바를 포함한다. 이 사양은 최대 250kW의 랙 배포를 지원하며 네이티브 19인치 장비 지원 기능을 추가했다.

NVIDIA Vera CPU 랙 설계는 MGX 아키텍처를 가속 컴퓨팅을 넘어 에이전틱 AI 시대를 지원하도록 확장한다. Vera Rubin NVL72가 대규모 학습 및 추론을 담당하는 동안, Vera CPU 랙은 도구 호출, 오케스트레이션, 샌드박스 실행을 위해 설계되어 AI 에이전트가 애플리케이션 및 데이터와 실시간으로 상호작용할 수 있게 한다.

DSX AI 팩토리를 위한 오픈 소스 소프트웨어

NVIDIA는 컴퓨팅, 네트워킹, 전력, 냉각을 통합하기 위해 NVIDIA DSX AI 팩토리 플랫폼용 새로운 오픈 소스 소프트웨어 구성 요소를 출시했다. NVIDIA DGX Cloud 운영 경험에서 개발된 이 구성 요소는 다음과 같다:

• NVIDIA Config Manager: AI 팩토리 네트워크 패브릭의 배포 및 일관성 유지를 위해 스위치 구성을 자동화한다.
• NVIDIA Cluster Readiness Engine: 실제 워크로드 시뮬레이션으로 GPU 클러스터를 스트레스 테스트하여 작업 충돌을 방지한다.
• NVIDIA Rack Management Service: 펌웨어 관리를 개선하기 위해 랙을 일급 단위로 취급한다.
• Cluster API Provider for NVIDIA Infrastructure Controller: 베어메탈 배포를 가속화하여 원시 하드웨어를 몇 시간 만에 프로덕션 준비 클러스터로 전환한다.

업계 표준 및 네트워킹 발전

NVIDIA는 AMD, Google, Meta와 함께 AI 팩토리 시설 설계를 위한 통합 청사진을 정의하는 Open Data Center Specification v0.7을 발표했다. 또한 OCP Grid Resilience Specification이 발표되어 그리드 교란 시 AI 인프라가 연결을 유지하고 2초 이내에 거의 전체 부하로 복원되도록 보장한다.

네트워킹 분야에서 Meta와 NVIDIA는 Meta가 NVIDIA Spectrum-6 102.4Tb/s Ethernet 스위치를 채택한다고 발표했다. Meta의 새로운 N-IceCube 스위치는 Facebook Open Switching System(FBOSS)을 실행하며 IcePack 액체 냉각 랙에 장착된다. 이 협력은 Spectrum-X Multiplane 기술을 사용하여 최대 8개의 독립적인 네트워크 플레인으로 트래픽을 분산시켜 복원력과 대역폭 활용도를 개선하는 100,000개 이상의 GPU를 갖춘 에이전틱 AI 팩토리를 지원한다.

전력 및 광학 혁신

Visionbay는 Vera Rubin 시대를 위해 800 VDC 아키텍처를 중심으로 설계된 차세대 AI 팩토리 플랫폼 K-1 계획을 공개했다. 이 설계는 클러스터 레벨 전력 센터를 사용하여 AC-DC 변환을 중앙화하고 고밀도 인프라의 전력 공급을 단순화한다.

NVIDIA와 Cisco는 업계 최초의 400Gb/s 기반 네트워킹 패브릭 모듈인 Ultra-Dense Small Form Factor Pluggable(USFP) 표준을 발표했다. USFP는 기존 200Gb/s당 레인 광학 장치보다 4배 더 높은 대역폭 밀도를 제공하며 약 1.3배 더 높은 전력 효율성을 달성한다. 또한 NVIDIA와 Google은 대규모 AI 인프라의 네트워크 효율성을 개선하기 위해 향후 NVIDIA ConnectX-10 SuperNICs 및 BlueField DPUs에서 Falcon Transport 지원을 발표했다.