AI 에이전트의 링크 클릭 시 데이터 보안을 유지하는 방법

AI 시스템이 사용자를 대신해 웹 페이지를 열거나 링크를 따라가는 등 행동을 수행할 수 있게 되면서, **URL 기반 데이터 유출(URL-based data exfiltration)**과 같은 새로운 보안 위험이 등장했다. 공격자는 prompt injection을 통해 모델이 이메일 주소나 문서 제목 등 민감한 정보를 포함한 URL을 요청하도록 유도할 수 있다.

기존의 '신뢰할 수 있는 사이트 목록' 방식은 리다이렉트(redirect) 공격에 취약하며, 지나치게 엄격한 허용 목록은 사용자 경험을 저해하는 한계가 있다.

OpenAI는 이를 해결하기 위해 **독립적인 웹 인덱스(independent web index)**를 활용한다. 에이전트가 URL을 자동으로 가져오기 전, 해당 URL이 사용자의 대화와 무관하게 이미 공개된 웹상에 존재했는지 확인하는 방식이다.

• URL이 인덱스와 일치할 경우: 기사나 이미지를 자동으로 로드한다.
• URL이 일치하지 않을 경우: 검증되지 않은 URL로 간주하여 사용자에게 경고를 표시하거나 명시적인 승인을 요구한다.