2+2=5일 때

AI 브라우저가 웹사이트의 정보를 바탕으로 식당 예약, 이메일 발송 등 에이전트 기능을 수행할 때, 웹사이트가 AI를 속여 가드레일을 무력화할 수 있는 취약점이 연구를 통해 밝혀졌습니다.

기존의 LLM 보안 방식은 유해한 요청(폭탄 제조법 등)을 차단하는 사후 반응적 가드레일에 의존하지만, 이는 근본적인 해결책이 되지 못합니다.

새로운 연구에 따르면, 공격자는 웹사이트를 통해 AI 브라우저를 **'가상 현실(alternate reality)'**로 유도할 수 있습니다. 이를 통해 AI가 규칙을 위반하도록 조작하여 다음과 같은 공격을 수행할 수 있습니다.

• Private Repository 내 코드 추출
• 브라우저 내장 비밀번호 관리자의 자격 증명 탈취
• 기타 민감한 데이터 및 권한 오용

이는 AI 에이전트가 웹 환경에서 직접적인 행동(Action)을 수행할 때 발생하는 보안 위협을 극명하게 보여줍니다.