NVIDIA, Open Agent Safety Platform 발표…Anthropic이 Managed Agents에 보안 통합

NVIDIA가 AI 보안을 강화하기 위한 오픈 소프트웨어 플랫폼 및 참조 시스템 설계인 Open Agent Safety Platform을 발표했다. 이 이니셔티브의 일환으로 Anthropic은 NVIDIA와 협력하여 에이전트 스택에 추가적인 보안 및 통제 계층을 도입했다. 이를 통해 Claude Managed Agents를 사용하는 기업은 모델 수준 안전장치 너머에서 에이전트 행동을 통제하고 감사하기 위해 NVIDIA의 오픈소스 런타임인 OpenShell을 활용할 수 있다.

계층적 보안 아키텍처

이 시스템은 모델 자체 외부에서 작동하는 모듈식이고 독립적인 보호 계층을 사용한다. 이 아키텍처는 보안이 단일 장애점에 의존하지 않도록 보장하며, 기업이 인프라에 맞는 특정 계층을 채택할 수 있게 한다.

• Claude Managed Agents: 샌드박스 환경과 분리된 서버에서 에이전트 루프를 실행한다. 자격 증명은 별도의 볼트에 저장되어 에이전트가 비밀번호나 액세스 키를 직접 볼 수 없게 한다. 또한 감사 추적 기능을 제공하며 기존 기업 액세스 제어와 통합된다.
• NVIDIA OpenShell: 엄격한 규칙을 시행하여 에이전트 행동을 관리하는 오픈소스 런타임이다. 모든 도구 사용 및 데이터 액세스 요청을 확인하며, 정책에서 명시적으로 허용하지 않는 한 행동을 차단한다. 정책 증명자는 정의된 규칙 하에서 에이전트가 접근할 수 있는 범위를 수학적 증명으로 확인한다.

기업 도입 현황

여러 기업이 이 기술을 활용하고 있다. Notion은 엔지니어가 코드 배포 등 작업을 위해 워크스페이스 내에서 Claude를 사용하도록 허용한다. Rakuten은 다양한 부서에 전문 에이전트를 배치하며, Asana는 프로젝트 작업 및 산출물을 지원하는 AI Teammates를 구축하기 위해 Managed Agents를 사용한다.

가용성

Claude Managed Agents는 오늘부터 사용 가능하며, 사용자가 제어하는 샌드박스 또는 관리형 서비스를 통해 운영할 수 있다. NVIDIA OpenShell은 Apache 2.0 라이선스 하에 오픈소스로 공개되며 GitHub와 NVIDIA 개발자 리소스에서 확인할 수 있다.