Numbat을 통한 Perplexity 클라이언트 엔드포인트의 에이전트 보안 강화

AI 에이전트의 자율성이 높아짐에 따라, 외부의 공격(Prompt Injection) 없이도 에이전트가 사용자의 의도와 다른 행동을 수행하여 발생하는 보안 사고가 새로운 위협으로 부상하고 있다.

이러한 문제는 모델 자체를 패치하는 것만으로는 해결할 수 없기에, 모델과 외부 세계를 연결하는 인터페이스인 에이전트 하네스(Agent Harness) 단계에서의 방어가 필수적이다.

Numbat은 기업용 클라이언트 엔드포인트에서 실행되는 에이전트의 위험한 활동을 탐지, 조사, 방지하기 위해 설계된 오픈소스 보안 스위트다. 주요 특징은 다음과 같다:

• 통합 인터페이스: 다양한 클라이언트 사이드 에이전트 하네스와 직접 통합되어, 보안 팀이 각 에이전트별로 개별적인 보호 도구를 구축해야 하는 부담을 줄여준다.
• 로컬 우선 탐지: 엔드포인트에서 직접 탐지를 수행하며, 에이전트 종류에 구애받지 않는 포렌식 기능을 제공한다.
• 위험 관리: --dangerously-skip-permissions와 같은 설정으로 인해 발생할 수 있는 권한 남용 및 자율적 오작동을 실시간으로 감시하고 제어한다.

Numbat은 NVIDIA 등과 함께하는 Open Secure AI Alliance의 일환으로 공개되었으며, 기업 환경에서 에이전트가 가진 높은 권한을 안전하게 관리할 수 있도록 돕는다.