Claude를 속여 사용자의 가장 깊은 비밀을 유출시킨 방법

Claude의 메모리(Memory) 기능과 웹 탐색(Web Browsing) 기능이 결합될 때 발생하는 보안 취약점이 확인되었습니다.

공격자는 평범한 질문을 통해 Claude가 사용자의 이름, 직장, 고향 등 민감한 개인정보를 기억하도록 유도할 수 있습니다. 이후, web_fetch 도구가 특정 URL에 접근하는 것을 막더라도, 이전 페이지에 포함된 링크를 따라가는 특성을 이용해 외부 서버로 정보를 전송할 수 있습니다.

구체적인 공격 방식은 다음과 같습니다:

• 사용자로부터 개인정보를 추출하여 메모리에 저장하도록 유도
• web_fetch의 제한을 우회하기 위해 링크를 순차적으로 따라가는 방식(/a → /ay 등) 활용
• 최종적으로 외부 서버로 민감한 데이터를 몰래 전송