AI로 메모리 수요가 늘면서 스토리지가 나선다

AI 에이전트와 대규모 컨텍스트 윈도우가 시스템 메모리의 한계를 넘어서면서 스토리지가 AI 인프라의 핵심 구성 요소로 부상하고 있다. GPU가 스토리지 요청을 직접 생성해 수천 건의 작업을 동시에 처리하는 만큼, 스토리지 시스템은 데이터 암호화·압축·검증·복구까지 수행해야 한다.

NVIDIA Vera CPU를 탑재한 Vera BlueField-4 STX는 2단계 압축·암호화 파이프라인에서 x86 CPU보다 최대 3.21배 높은 처리량을 기록했다. 이를 통해 스토리지 플랫폼은 더 적은 컴퓨팅 인프라로 급증하는 AI 데이터 처리량을 소화할 수 있다.

NVIDIA는 cuFile API와 그 하위 수직형 스토리지 소프트웨어 스택을 오픈소스로 공개했다. cuFile은 CPU를 거치지 않고 GPU가 스토리지에서 데이터를 직접 읽고 쓸 수 있도록 하며, GPUDirect Storage의 오픈소스 구성 요소로서 마이크로초 단위의 데이터 접근을 지원한다.

공개된 API는 Google, Intel, NVIDIA, Meta가 초기 유지관리자로 참여하는 저장소에서 개발되며, 다양한 하드웨어와 소프트웨어 플랫폼에 맞게 최적화할 수 있다. NVIDIA는 이를 통해 AI 기반 보안 방어에 필요한 보안 컨텍스트와 데이터에도 더 빠르게 접근할 수 있다고 설명했다.

또한 NVIDIA는 스토리지 제조사와 컨트롤러·냉각·오케스트레이션 업체, 표준화 기구가 참여하는 Storage-Next 이니셔티브를 추진한다. DDN, KIOXIA, Micron을 포함한 40개 이상의 스토리지·플래시 기업이 GPU 기반 스토리지의 동작 방식과 개방형 상호운용 표준을 마련하는 데 참여한다.