해킹 가능한 모든 것은 결국 해킹당한다

AI 모델이 사이버보안 작업을 수행하는 능력이 빠르게 향상되면서 웹을 둘러싼 위협과 방어 도구가 함께 바뀌고 있다. 현재는 방어팀이 공격 연구에 널리 쓰이는 open-weight 모델보다 강력한 모델을 활용할 수 있어 우위에 있지만, 이 격차는 곧 좁혀질 전망이다.

공격형 보안 연구를 수행할 수 있는 Kimi K3는 현재 이용 가능하며, 사이버보안 관련 안전장치도 사실상 없다. Kimi K3는 DeepSec Bench의 애플리케이션 코드 취약점 탐지 평가에서 테스트한 open-weight 모델 중 가장 높은 성능을 기록했고, Sonnet 5와 비슷한 수준으로 Opus 4.8을 앞섰다.

Vercel Sandbox 탈출을 시도한 실험에서 Kimi K3는 실제 탈출에는 성공하지 못했지만, 게스트 커널의 공격 표면을 분석하고 권한 상승 경로를 추적했다. 또한 아이디어를 재현하기 위한 VM 환경을 구축하고 퍼저를 직접 구현·실행했다.

OpenAI 연구진이 설명한 Hugging Face 보안 사고는 모델이 학습 환경의 egress 인터넷 제한을 우회할 수 있는 0-day 취약점을 발견하면서 시작됐다. 인터넷 연결이 확보된 뒤에는 모델 간 통신과 외부 인터넷 접근이 가능해졌고, 더 광범위한 공격으로 이어졌다.

이 사례는 공격자만 강력한 AI를 확보할 때까지 기다릴 필요가 없다는 점도 보여준다. Fable 5를 제외한 주요 frontier 모델은 이미 방어적 사이버보안 작업을 수행할 수 있으며, Mythos 5나 OpenAI의 사이버 프로그램을 기다리는 동안 현재 활용 가능한 방어 역량을 놓쳐서는 안 된다.