AI BriefingNVIDIA OpenShell, 기본 모드 0/10 유출 차단 vs 자동 승인 시 시크릿 노출
We gave an AI agent a booby-trapped script. It leaked a secret 10 of 10 times. Inside NVIDIA's new sandbox: 0 of 10
·2026.10.23 10:40
핵심 내용
NVIDIA OpenShell은 기본 모드에서 유출을 막았으나 자동 승인 시 데이터가 새어 나갔다
자세히 보기
- NVIDIA OpenShell은 무료 오픈소스 에이전트 샌드박스로서, 기본 설정에서 악성 설치 스크립트의 시크릿 유출을 10회 테스트 중 10회 모두 차단함
- 자동 승인(auto-approve) 편의 기능 활성화 시 12회 시험 중 12회 모두 데이터 유출 발생, 샌드박스가 새로 승인된 연결에 대해 자체 규칙을 작성하는 사례 포함
- '읽기 전용' 규칙 및 감사 모드(새 규칙 기본값) 등 다른 편의 설정도 웹 주소, 요청 헤더, 기록된 트래픽을 통해 데이터 유출을 허용했으나, 해당 개별 설정의 구체적인 시험 횟수는 본문에 제공되지 않음
- 연구는 단일 Mac에서 소형 로컬 모델을 사용했으며, 결과는 더 고급 에이전트의 의사결정 빈도보다는 샌드박스 동작 특성을 반영함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
