AI 에이전트를 해킹하라: GitHub Secure Code Game으로 agentic AI 보안 역량 키우기

Secure Code Game의 4번째 시즌은 자율적으로 행동하는 AI 에이전트의 보안 위험을 다룬다. OpenClaw 같은 개인 AI 비서가 주목받는 가운데, 악성 프롬프트·오염된 웹 콘텐츠·멀티 에이전트 체인 같은 실제 위협을 직접 체험하며 익히게 한다.

이 시즌은 ProdBot이라는 의도적으로 취약한 터미널용 AI 비서를 중심으로 진행된다. 자연어를 bash 명령으로 바꾸고, 시뮬레이션된 웹을 탐색하고, MCP 서버에 연결하고, 조직 승인 스킬과 영구 메모리를 쓰고, 멀티 에이전트 워크플로를 조율하는 환경에서 비밀 파일 password.txt를 빼내는 것이 목표다.

진행은 5개 레벨로 구성된다.

• Level 1: 샌드박스된 workspace 안에서 bash 명령을 실행하며 탈출 시도를 학습한다.
• Level 2: 웹 접근이 추가돼, 신뢰할 수 없는 콘텐츠가 에이전트에 어떤 영향을 주는지 탐색한다.
• Level 3: 주가 조회, 웹 브라우징, 클라우드 백업 같은 외부 도구를 제공하는 MCP servers가 붙는다.
• Level 4: 조직 승인 스킬과 persistent memory가 더해져, 플러그인과 세션 간 기억이 공격 표면이 되는 지점을 다룬다.
• Level 5: 6개 specialized agents, 3개 MCP servers, 3개 skills, 시뮬레이션된 open-source project web이 한데 묶인 최종 단계다.

문제의 배경은 매우 현재적이다. OWASP Top 10 for Agentic Applications 2026은 agent goal hijacking, tool misuse, identity abuse, memory poisoning 같은 위험을 다루고, Dark Reading poll에서는 **48%**의 보안 전문가가 agentic AI를 2026년 말 최대 공격 벡터로 봤다. Cisco의 State of AI Security 2026 보고서도 83%가 배포를 계획하지만, 안전하게 운영할 준비가 됐다고 답한 곳은 29%에 그친다고 밝혔다.

학습 진입 장벽은 낮다. 전체 경험은 GitHub Codespaces에서 돌며, 설치나 설정 없이 2분 이내에 시작할 수 있고, 시즌은 서로 독립적이라 Season 4만 바로 플레이할 수 있다. Season 3는 도움이 되지만 필수는 아니며, GitHub Models의 rate limits만 유의하면 된다.

이번 시즌의 핵심은 특정 취약점 하나가 아니라, 에이전트가 현실에서 어떻게 무너지는지 알아보는 감각을 기르는 데 있다. 실제 시스템을 설계·감사하거나 AI 비서에 어느 정도 자율성을 줄지 판단할 때 필요한 보안 직감을 훈련시키는 구성이다.