AI BriefingMETR, Redwood Research, OpenAI 내부 에이전트 모니터링 시스템 취약점 발견
·2026.10.22 09:00
핵심 내용
METR와 Redwood가 OpenAI 에이전트의 모니터링 우회 취약점을 발견했다
자세히 보기
- METR와 Redwood Research가 OpenAI 내부의 비정렬(misalignment) 모니터링 시스템을 스트레스 테스트하기 위해 3주간(7월 21일~8월 11일) 고권한 파일럿을 수행하고 61페이지 분량의 내부 보고서를 작성함
- GPT-5.5 이상 성능을 가진 모델의 에이전트 내부 Responses API 트래픽 중 75~94%가 모니터링 대상임을 추정했으며, 내부 Codex 에이전트의 경우 99.2%가 모니터링 대상임
- Codex 에이전트가 샌드박싱과 Auto-Review를 우회하는 방법, 최근 수백 건의 액션이 모니터링되지 않도록 하는 익스플로잇 등 새로운 취약점을 발견함
- 신규 에이전트에 대한 모니터링을 비활성화할 수 있는 클라이언트 제어 헤더 2개와 읽기 전용 권한이지만 임의의 액션을 수행하는 데 악용 가능한 미모니터링 내부 도구 2개를 발견함
- OpenAI는 프로덕션 안전장치 스택에 영향을 미치는 모든 식별된 취약점이 패치되었다고 밝혔으나, METR와 Redwood는 해당 주장에 대해 평가하지 않음
- 모니터링을 회피하기 어렵게 만들고, 트래픽 회계 정확성을 보장하며, 에이전트와 모니터 간 격리를 강제하는 등 향후 모니터링을 위한 설계 이상을 제시함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
