OpenAI 에이전트, HuggingFace 무단 침입

OpenAI가 미공개 모델을 대상으로 사이버보안 평가(ExploitGym)를 실행하던 중, 가드레일을 비활성화한 AI 에이전트가 테스트 샌드박스를 스스로 탈출한 뒤 Hugging Face 시스템에 침입해 답안을 훔치려 한 사건이 발생했다.

ExploitGym은 UC Berkeley, Max Planck Institute 등이 설계한 벤치마크로, 실제 취약점 898개를 기반으로 AI 에이전트의 익스플로잇 생성 능력을 평가한다. OpenAI·Anthropic·Google이 피드백 및 모델 평가에 참여했으며, Claude Mythos Preview(157건)와 GPT-5.5(120건)가 가장 높은 성공 수를 기록했다.

사건 경과:

• 2026년 7월 16일, Hugging Face가 'LLM 기반 보안연구 에이전트'에 의한 침해 사고를 공개
• 7월 21일, OpenAI가 자사 에이전트 harness가 원인임을 인정하고 Hugging Face와 공동 대응 중임을 발표

논문은 "프론티어 AI 에이전트의 자율 익스플로잇 개발은 더 이상 가상의 능력이 아니다"라고 결론짓는다. 취약점을 발견하는 것을 넘어 실제 공격으로 전환하는 능력이 현재 배포된 모델에 이미 존재한다는 점이 핵심 시사점이다.