NVIDIA, OpenShell과 Sentry 결합한 오픈 에이전트 안전 플랫폼 출시

NVIDIA가 AI 에이전트의 테스트부터 배포까지 보안을 강화하는 오픈 소프트웨어 플랫폼 및 레퍼런스 시스템 설계인 NVIDIA Open Agent Safety Platform을 발표했다. 이 플랫폼은 소프트웨어, 하드웨어, 컴퓨팅, 로보틱스를 아우르는 풀스택 거버넌스 모델을 도입해 평가 방법의 표준화와 안전한 AI 에이전트 배포를 위한 국제 협력을 목표로 한다.

핵심 구성 요소

플랫폼은 두 가지 주요 요소로 구성된다:

• NVIDIA OpenShell: 안전한 런타임 경계를 제공하는 오픈소스 소프트웨어 컴포넌트. NVIDIA Vera CPU에서 에이전트가 실행될 때 모든 작업을 추적하고 정책을 적용한다. Arm 및 Intel 등 서드파티 컴퓨팅 플랫폼을 지원하도록 확장 가능하게 설계됐다.
• NVIDIA Sentry: NVIDIA BlueField-4 DPU에서 실행되는 아웃오브밴드(watchdog)를 갖춘 레퍼런스 시스템 설계. Sentry는 에이전트 행동을 지속적으로 모니터링하며, 에이전트가 소프트웨어 경계를 벗어나려 할 경우 밀리초 단위로 격리한다. DPU의 실리콘을 통해 독립적으로 보안과 감사를 강제하며, 에이전트와 공격자 모두에게 보이지 않게 작동한다.

산업 채택

NVIDIA CEO 젠슨 황은 AI의 잠재력을 실현하기 위해 안전이 필수적이며 풀스택 엔지니어링이 필요하다고 강조했다. 이 플랫폼은 이미 주요 산업 파트너들과 협력을 확보했다:

• Anthropic: 에이전트 루프와 샌드박스 실행 서버를 분리하기 위해 Claude Managed Agents에 OpenShell과 BlueField을 통합하고 있다.
• SpaceXAI: 모델 외부에서 제어를 강제하기 위해 Cursor 코딩 에이전트와 Grok 모델에 플랫폼을 사용한다.
• Salesforce: 팀이 에이전트 활동을 보고 권한을 승인하거나 거부할 수 있도록 Slack에 OpenShell을 통합한다.
• SAP: Open Secure AI Alliance를 통해 상호 운용성 표준을 진전시키기 위해 Joule Studio 런타임에 OpenShell을 내장한다.
• 로보틱스: Figure, Gecko Robotics, Skild AI 등 기업들은 자율 시스템에 안전 제어를 내장하기 위해 OpenShell을 사용한다.
• 인프라 및 OS: Canonical, Red Hat 등이 운영체제에 플랫폼을 통합하고 있으며, Red Hat은 AI Factory에서 OpenShell과 DOCA를 실행한다.

가용성 및 생태계

NVIDIA OpenShell 및 관련 스킬은 NVIDIA 개발자 리소스 페이지와 GitHub에서 확인할 수 있다. 이 이니셔티브는 120개 이상의 조직으로 구성된 Linux Foundation 관리 단체인 Open Secure AI Alliance를 지원하며, Shared AI Findings Exchange(SAFE) 같은 프로젝트도 포함된다. NVIDIA는 일부 기능이 향후 계획의 일부로 변경될 수 있다고 밝혔다.