NVIDIA와 함께하는 HPE AI Factory, 에이전트 시대를 위해 확장

HPE와 NVIDIA는 기업들이 AI 에이전트를 개념 증명(PoC) 단계에서 실제 운영 환경으로 전환할 수 있도록 HPE AI Factory with NVIDIA를 확장한다. 이번 확장에는 에이전트의 도구 호출과 실시간 데이터 처리에 최적화된 NVIDIA Vera CPU와 NVIDIA Agent Toolkit이 포함된다.

NVIDIA Vera CPU는 에이전트 루프에 필요한 결정론적이고 낮은 지연 시간을 제공하며, HPE ProLiant Compute DL394 Gen12 서버와 함께 2027년 출시될 예정이다. 또한, 1조 개 이상의 파라미터를 가진 대규모 모델을 위해 설계된 NVIDIA Vera Rubin 플랫폼이 HPE의 랙 규모 시스템인 NVIDIA Vera Rubin NVL72와 함께 제공된다.

NVIDIA Agent Toolkit은 HPE Private Cloud AI와 결합하여 에이전트의 동작을 모니터링하고 거버넌스 정책을 강제하며, 자율적인 멀티 에이전트 시스템을 안전하게 구축할 수 있는 운영 체제 역할을 한다. 주요 특징은 다음과 같다:

• 보안 및 거버넌스: 로컬 에이전트 등록 기능을 통해 모델과 도구의 실행 전 승인 절차를 거치며, HPE Zerto Software를 통해 비정상적인 에이전트 동작 감지 및 데이터 복구가 가능하다.
• 데이터 관리: HPE Alletra Storage MP X10000은 비정형 데이터에 메타데이터와 거버넌스 정책을 자동 적용하여 AI 파이프라인의 토큰 처리량을 개선한다.
• 기밀 컴퓨팅: NVIDIA Confidential Computing이 모든 HPE AI Factory 솔루션에 적용되어, 실행 중인 모델과 민감한 데이터를 암호화하고 보호한다.