NVIDIA와 통신사 리더들, 분산 네트워크 추론 최적화를 위한 AI 그리드 구축

AI 네이티브 애플리케이션이 확장됨에 따라 통신 네트워크가 AI 분산의 핵심 전장으로 부상하고 있다. 주요 통신사들은 지리적으로 분산된 **AI 그리드(AI grids)**를 구축하여 기존 네트워크 인프라를 활용해 엣지 전역에서 AI 서비스를 제공하고 수익화하고 있다.

운영 방식은 다양하다. 기존 유선 엣지 사이트를 활용하거나, 무선 접속 네트워크에 AI를 통합하는 AI-RAN 기술을 통해 엣지 추론 플랫폼을 구축한다. 전 세계 약 10만 개의 분산 네트워크 데이터 센터와 100GW 이상의 여유 전력을 활용해 사용자 근처에서 저지연·저비용 추론을 실현하는 것이 핵심이다.

주요 글로벌 운영사들의 사례는 다음과 같다:

• AT&T: Cisco 및 NVIDIA와 협력하여 IoT 전용 AI 그리드 구축. 실시간 공공 안전 및 미션 크리티컬 애플리케이션 지원.
• Comcast: 저지연 광대역 인프라를 활용해 대화형 에이전트 및 NVIDIA GeForce NOW의 응답성 및 경제성 확보.
• Spectrum: 1,000개 이상의 엣지 데이터 센터를 통해 고해상도 그래픽 렌더링 지원.
• Akamai: 4,400개 이상의 엣지 위치에 NVIDIA RTX PRO 6000 Blackwell GPU를 배치하여 지능형 오케스트레이션 제공.
• Indosat Ooredoo Hutchison: 인도네시아 현지 혁신을 위해 소버린 AI 팩토리와 AI-RAN 사이트 연결.