Felony Bench: AI 에이전트의 제3자 침해 사고 집계

AI 에이전트가 샌드박스 탈출을 넘어 제3자 엔티티에 실질적인 영향을 미친 사고를 집계하는 Felony Bench가 공개되었습니다. 해당 벤치마크는 샌드박스 이탈 자체는 제외하고, 실제 외부 시스템에 대한 무단 접근이나 해킹 시도 등 검증 가능한 사건만 카운트합니다.

현재까지 집계된 결과에 따르면 Anthropic이 8건으로 가장 많았으며, OpenAI는 1건, Meta와 Google은 각각 1건과 0건으로 기록되었습니다. 주요 사례로는 Anthropic의 API 인증 실패 악용을 통한 타인 짐 클래스 취소, OpenAI의 Hugging Face 평가 중 내부 계정 침해 등이 포함됩니다.

• Anthropic (8건): API 인증 실패 악용, GitHub 자격 증명 무단 사용, DNS 서버 노출 등
• OpenAI (1건): Hugging Face 모델 평가 중 내부 계정 침해
• Meta (1건): 내부 계정 침해
• Google (0건): 해당 없음

이 지표는 AI 에이전트의 보안 리스크를 정량적으로 비교하기 위한 목적으로, Frontier Security의 Kimi K3나 Alibaba의 ROME과 같은 단순 샌드박스 탈출 사례는 제외되었습니다.