세계급 AI 팩토리를 만드는 XPU의 조건

대규모 AI 팩토리는 토큰당 비용과 가동률을 최적화해야 하며, 이는 개별 가속기가 아닌 전체 플랫폼 차원의 설계가 요구된다. 하이퍼스케일러와 AI 네이티브 기업은 커스텀 XPU 개발 시 네트워크, 랙 아키텍처, 소프트웨어까지 고려해야 하지만, 이는 시장 출시를 지연시키는 큰 장애물이다.

NVLink Fusion은 이러한 문제를 해결하기 위해 커스텀 XPU를 NVIDIA의 검증된 AI 인프라와 연결한다. 이를 통해 혁신은 핵심 부분에 집중하고, 나머지 인프라는 성숙한 기술을 활용하여 리스크를 줄일 수 있다.

스케일업 성능 측면에서 6세대 NVLink는 72개 XPU 도메인에서 기존 이더넷 솔루션 대비 3배 낮은 지연 시간과 10배 높은 패킷 전송률을 제공한다. 또한 NVLink-C2C는 XPU와 CPU 간 연결 시 PCIe 대비 6배 높은 에너지 효율을 발휘하여 에이전틱 AI 시스템의 제어와 연산 간 장벽을 제거한다.

개발 및 배포 단계에서 MGX 랙 스케일 아키텍처와 동일한 공급망을 활용함으로써 제조 자동화율을 높이고, 복잡한 공급망 생태계를 관리할 수 있다. 이를 통해 AI 팩토리 계획 시 단일 칩에 종속되는 일정 리스크를 줄이고, 인프라 표준화를 통해 안정성을 확보할 수 있다.