AI 에이전트 보안 테스트용 Agent OPFOR 공개

Agent OPFOR은 단순한 정적 평가를 넘어, 실제 공격자와 유사한 방식으로 AI 에이전트의 취약점을 테스트하는 오픈소스 레드팀 도구입니다. 다회차(Multi-turn) 적대적 대화와 적응형 공격 캠페인을 통해 에이전트의 보안성을 검증합니다.

주요 공격 표면 및 테스트 항목:

• 프롬프트 인젝션 및 탈옥: 단발성 프롬프트가 아닌 다회차 대화를 통한 공격
• 시스템 프롬프트 추출 및 도구 오용(Tool misuse)
• MCP(Model Context Protocol) 엔드포인트 공격: 도구 설명 주입, 비밀 정보 노출, SSRF 등
• 메모리 오염(Memory poisoning) 및 권한 남용(Excessive agency)
• EU AI Act 준수를 위한 편향성 테스트

특히 'opfor hunt' 모드를 통해 목표(Objective)를 설정하면, Commander 에이전트가 캠페인을 계획하고 Operator가 프로브를 실행하며 Scout가 정찰을 수행하는 자율형 레드팀 운영이 가능합니다.