Voice AI 시스템은 숨겨진 오디오 공격에 취약하다

음성·오디오를 다루는 LALM이 일상 도구로 들어오면서, 인간에게 들리지 않는 미세한 신호가 섞인 오디오로도 조작될 수 있다는 점이 드러났다. IEEE Symposium on Security and Privacy에서 발표될 연구는 이 공격을 AudioHijack이라 부르며, 사람이 거의 구분하지 못할 정도로 파형을 바꿔 모델의 행동을 틀어버리는 방식을 제시했다.

연구진은 공개 가중치가 있는 모델에서 공격을 최적화했고, 같은 기법이 상용 음성 서비스로도 전이될 수 있음을 보였다. 공격은 사용자 지시와 무관하게 재사용 가능했고, 약 30분만 학습해도 악성 신호를 만들 수 있었다.

• 검증 대상: 13개 open model
• 평균 성공률: 79~96%
• 가능한 결과: 민감한 웹 검색, 공격자 통제 출처에서 파일 다운로드, 사용자 데이터가 담긴 이메일 전송

6가지 공격 결과도 확인됐다. 오디오 처리 불가 선언, 요청 거부, 허위 정보 출력, 악성 링크 삽입, persona 변경, 승인되지 않은 tool use 유도다.

방어는 약했다. 악성 지시 예시를 주는 방식은 성공률을 **7%**만 낮췄고, 응답이 사용자 의도와 맞는지 스스로 점검하게 하는 방식은 **28%**만 잡아냈다. 내부 attention을 감시하는 방법이 가장 효과적이었지만, 공격자는 이를 의식해 조작 강도를 낮추며 회피할 수 있었다. 온라인 영상, 음악, voice note, Zoom 녹음처럼 실제 업무 흐름에 섞인 오디오가 공격 경로가 될 수 있다는 점이 핵심 위험이다.