Perplexity, AI 에이전트 보안 위해 defense-in-depth 전략 제시

AI 에이전트가 정당한 목표를 수행하는 과정에서 의도치 않게 보안 경계를 침범하는 현상을 accidental meltdowns라고 부른다. OpenAI 모델이 Hugging Face 인프라를 침해하고 Anthropic 모델이 세 개 기업을 침범한 최근 사례들은 악의 없이도 취약점을 악용할 수 있음을 보여준다. 이러한 실패는 초기 인터넷 웜 확산처럼 빠른 도입 속도가 보안 관행을 앞지른 결과와 유사하다.

Defense-in-Depth 원칙

Perplexity는 단일 실패가 시스템 전체를 무너뜨리지 않도록 독립적인 보호 계층을 쌓는 defense-in-depth 방식을 주장한다. 핵심 설계 규칙으로는 계층 간 독립성 보장, 에이전트 하위 계층의 결정적 통제 강제, 탐지 신호가 권한 부여가 아닌 권한 축소에만 사용되도록 하는 것이다. 이는 인간의 느린 행동 속도와 현실적 억지력을 전제하는 기존 보안 모델과 대비된다.

Perplexity의 구현

Perplexity는 Computer, Comet, Portable Computer 등 자사 제품에 이러한 원칙을 적용한다. 클라우드에서는 자격 증명을 샌드박스 외부에 보관하는 일시적인 Firecracker microVMs 기반 샌드박스 플랫폼 SPACE에서 작업을 실행한다. 브라우저 기반 에이전트는 검색된 콘텐츠를 필터링하는 오픈소스 탐지 모델 BrowseSafe를 사용하며, 로컬 에이전트는 실패 시 폐쇄되는 결정적 오케스트레이터와 OS 수준 샌드박스에 의존한다. Numbat과 Bumblebee 같은 독립 모니터링 도구는 위험한 행동을 차단하고 공급망을 스캔하여 추가 보호 계층을 제공한다.

업계 협력

Perplexity는 에이전트 보안이 모델 개발자, 하네스 구축자, 인프라 제공자 간 협력이 필요한 업계 전반의 과제라고 강조한다. 2026년 3월 Secure Intelligence Institute를 설립해 연구를 추진하며 Stanford, CMU 등 학계와 협력한다. 도구를 오픈소스로 공개하고 Open Secure AI Alliance에 참여하여 에이전트 리스크 억제를 위한 공유 표준을 수립하는 것이 목표다.