AI 역량 향상에 따른 사이버 복원력 강화

AI 모델의 사이버 보안 역량이 급격히 발전하고 있다. CTF(Capture-the-Flag) 챌린지 성능을 보면, GPT-5는 2025년 8월 27%를 기록했으나, GPT-5.1-Codex-Max는 2025년 11월 76%로 크게 향상되었다.

OpenAI는 향후 모델이 zero-day 원격 익스플로잇을 개발하거나 복잡한 기업 침입을 지원할 수 있는 'High' 수준의 역량에 도달할 것에 대비하고 있다. 이에 따라 방어자가 코드 감사 및 취약점 패치를 더 쉽게 수행할 수 있도록 돕는 도구 개발과 방어적 사이버 보안 작업에 집중 투자하고 있다.

공격과 방어 기술이 유사한 dual-use 특성을 고려하여, OpenAI는 다음과 같은 다층적 보안(defense-in-depth) 전략을 실행한다:

• 모델 학습: 교육 및 방어 목적에는 유용하되, 명백한 사이버 남용 요청은 거부하도록 모델을 학습시킨다.
• 탐지 시스템: 제품 전반에 걸친 모니터링을 통해 악의적인 활동을 감지하며, 위험 시 출력을 차단하거나 더 안전한 모델로 라우팅한다.
• 레드팀 운영: 전문 조직과 협력하여 보안 완화 조치를 지속적으로 평가하고 개선한다.