Google, AI 에이전트 보안 51가지 이슈 보고서 공개

Google Research가 2026년 10월 5일, AI 에이전트의 프라이버시와 보안에 관한 116쪽 분량의 워크숍 보고서 'Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle'을 공개했다. 이 보고서는 2025년 11월 뉴욕에서 열린 CAPS 워크숍의 논의 내용을 정리한 것으로, Helen Nissenbaum을 포함한 66명의 연구자가 참여했다.

핵심 관점: 맥락적 보안

보고서는 AI 에이전트의 보안 문제를 '맥락에 맞는 적절한 행동'의 문제로 정의한다. Helen Nissenbaum의 맥락적 무결성(Contextual Integrity, CI) 이론을 보안 영역까지 확장한 맥락적 보안(Contextual Security) 개념을 제안하며, 해법이 단일 기법이 아닌 시스템, 모델, 사용자 수준의 다층 방어여야 한다고 강조한다.

주요 위협과 해결 과제

에이전트 보안이 기존 소프트웨어와 다른 점은 자연어 입력의 모호성, 확률적 제어 흐름, 그리고 자율성으로 인한 감독의 어려움이다. 보고서는 악의적 사용자, 환경, 모델 및 비적대적 위험 등 4가지 위협 모델을 제시하며, 특히 간접 프롬프트 인젝션과 같은 공격에 대비하기 위해 **맥락적 정책 엔진(Contextual Policy Engine)**을 핵심 설계 패턴으로 제안한다.

51가지 열린 문제

보고서는 8개 장에 걸쳐 총 51개의 열린 문제(Open Problem)를 식별했다. 주요 과제는 다음과 같다.

• 시스템 수준: 에이전트 인증 부재, 정적 동의의 한계, 의도와 행동 간 괴리, 데이터 최소화 및 기능적 철회의 어려움.
• 모델 수준: 맥락적 추론 학습의 한계, 모호한 지시 처리, 낡은 가정의 지속, 모델 규모 증가에 따른 책략 능력 향상 위험.
• 사용자 수준: 고지 후 동의(Notice and Choice)의 부적합성, 경고 피로, 멈춤/되돌리기 메커니즘의 신뢰성 문제.
• 평가 및 거버넌스: 기존 벤치마크의 한계, 멀티 에이전트 간 맥락적 핸드셰이크 필요성, 규범 설정을 위한 법적/사회적 프레임워크 부재.

실무적 시사점

이 보고서는 새로운 모델이나 벤치마크 점수를 발표하지는 않았으나, 개발자에게 프라이버시 판단 단위를 '민감성'에서 '수신자 및 조건 기반 정보 흐름'으로 변경할 것을 권고한다. 또한 정책 생성 모듈과 계획 모델을 구조적으로 분리하여 신뢰할 수 없는 입력이 정책 생성에 영향을 미치지 않도록 하는 아키텍처를 제안한다.