단 0.01유로의 은행 송금이 뱅킹 AI 에이전트를 위험에 빠뜨릴 수 있다

유럽의 디지털 은행 Bunq를 대상으로 한 보안 테스트 결과, 간접 프롬프트 인젝션(Indirect Prompt Injection) 취약점이 발견되었습니다. 공격자는 매우 적은 금액의 송금을 수행하면서 송금 메모(Description) 필드에 정교하게 설계된 악성 프롬프트를 삽입하는 방식으로 공격을 수행합니다.

사용자가 AI 어시스턴트에게 최근 거래 내역을 보여달라고 요청하면, AI는 컨텍스트를 구성하는 과정에서 공격자가 삽입한 악성 명령어가 포함된 송금 데이터를 읽게 됩니다. 이때 LLM이 해당 데이터를 단순 데이터가 아닌 실행 가능한 명령으로 오인하여, 사용자에게 은행을 사칭한 피싱 메시지를 보내거나 재인증을 요구하는 등의 동작을 수행할 수 있습니다.

이러한 취약점은 다음과 같은 특징을 가집니다.

• 비접촉식 공격: 사용자의 기기에 악성코드를 설치하거나 직접적인 사회 공학적 기법을 쓸 필요가 없습니다.
• 신뢰 경계의 붕괴: 외부 데이터(송금 내역, 문서 등)가 LLM의 컨텍스트로 유입될 때, 시스템이 데이터와 명령어를 명확히 구분하지 못해 발생합니다.
• 높은 신뢰도: 공격 메시지가 사용자의 실제 뱅킹 앱 내부에서 AI 에이전트를 통해 전달되므로 피싱 공격의 성공률이 매우 높습니다.

금융 기관은 AI 에이전트가 처리하는 외부 데이터(거래 기록, 고객 메시지 등)의 신뢰 수준을 평가하고, 데이터와 명령어를 분리하는 아키텍처 설계에 주의를 기울여야 합니다.