AI가 사이버 보안 산업을 위협하는 것이 아니라 기하급수적으로 확장시키는 이유: RSA 컨퍼런스 인사이트

AI는 사이버 보안 시장을 위협하는 것이 아니라 오히려 확장시키고 있다. 새로운 모델이 출시될 때마다 더 많은 AI 에이전트, API, 그리고 인간의 검토를 거치지 않은 자율 워크로드가 생성되면서 공격 표면(Attack Surface)이 동시에 넓어지기 때문이다.

공격자 측면에서의 변화도 극심하다. AI 기반 공격은 침투 후 탈출 시간(Breakout time)을 48분에서 27초로, 제로데이(Zero-day) 개발 기간을 40일에서 사실상 즉시로 단축시켰다. 최근 발생한 LiteLLM 해킹 사례는 AI 에이전트가 공급망 공격에 실제로 사용된 대표적인 사례로 기록되었다.

하지만 이번 LiteLLM 공격을 처음 발견한 것은 AI가 아닌 인간 개발자였다. 이는 LLM만으로는 방어에 한계가 있음을 시사한다. LLM은 확률적(Stochastic) 특성 때문에 방대한 코드베이스에서 수많은 취약점을 찾아낼 수는 있지만, 그중 무엇이 실제 위협인지 확정하는 데는 어려움이 있다.

이에 따라 기업들은 다음과 같은 세 가지 요소가 결합된 **계층적 접근 방식(Layered Approach)**으로 전환하고 있다:

• LLM 기반 탐지: 방대한 코드베이스를 빠르게 스캔하여 광범위한 위협을 포착
• 결정론적 검증(Deterministic Verification): 탐지된 취약점이 실제 존재하는지 확인하고 우선순위를 확정
• 인간의 판단: 정교한 공격을 식별하고 최종적인 의사결정 및 조치 수행

RSA 컨퍼런스에서 논의된 또 다른 핵심 과제는 AI 에이전트의 권한 관리다. 에이전트가 목표 달성을 위해 사용하는 도구와 권한의 범위(Blast Radius)를 어떻게 세밀하게 제어할 것인지, 그리고 급증하는 보안 알림으로 인한 **알림 피로도(Alert Fatigue)**를 어떻게 해결할지가 향후 보안 시장의 관건이 될 전망이다.