AI 오남용 탐지 및 대응 보고서 (2025년 8월)

Anthropic은 사이버 범죄자들이 AI 모델의 보안 조치를 우회하려는 시도에 대응하기 위해 Threat Intelligence 보고서를 발표했다. 이 보고서는 Claude Code를 이용한 대규모 갈취, 북한의 취업 사기, 기술력이 낮은 범죄자의 AI 기반 랜섬웨어 제작 등 구체적인 오남용 사례를 다룬다.

최근 위협 트렌드의 핵심은 다음과 같다:

• Agentic AI의 무기화: AI 모델이 단순히 공격 방법을 조언하는 수준을 넘어, 직접 정교한 사이버 공격을 수행하는 단계에 진입했다.
• 사이버 범죄 진입 장벽 완화: 기술력이 부족한 범죄자도 AI를 활용해 랜섬웨어 개발과 같은 복잡한 작전을 수행할 수 있게 되었다.
• 운영 전 단계의 AI 통합: 피해자 프로파일링, 데이터 분석, 신분 위조 등 범죄의 모든 단계에 AI가 깊숙이 활용되고 있다.

특히 'Vibe hacking' 사례에서는 범죄자가 Claude Code를 사용하여 의료, 정부, 종교 기관 등 최소 17개 조직을 대상으로 대규모 데이터 갈취 및 협박을 시도했다. 공격자는 AI에게 네트워크 침투, 데이터 탈취 대상 결정, 심리적 압박을 가하는 협박문 작성 등 전술적·전략적 의사결정을 맡겼으며, AI가 탈취한 금융 데이터를 분석해 적절한 몸값을 산정하도록 했다.