텐센트 주작 랩, AI-Infra-Guard v4.6.2 공개… 신규 CVE 규칙 및 에이전트 안전성 벤치마크 추가

개요 및 핵심 기능

텐센트 주작 랩(Tencent Zhuque Lab)이 AI 보안 리스크 자가 점검을 위한 오픈소스 AI 레드 티밍 플랫폼 **AI-Infra-Guard (A.I.G)**를 공개했다. 이 플랫폼은 ClawScan, Agent Scan, AI 인프라 취약점 스캔, MCP 서버 및 에이전트 스킬 스캔, 제일브레이크 평가를 통합한 종합 솔루션이다. 현재 GitHub 저장소는 6.7k 스타를 기록했다.

v4.6.2 주요 업데이트

v4.6.2 릴리스(2026-09-17)는 취약점 커버리지 확대와 에이전트 안전성 평가 개선에 초점을 맞췄다.

• 취약점 라이브러리: LangFlow, n8n, PraisonAI, vLLM, llama-cpp, MLflow 등 40개 이상 AI 컴포넌트를 대상으로 하는 155개의 신규 CVE 규칙을 추가했다.
• Skill-Scan 개선: 근거 없는 오탐지를 줄이고 스톨 없는 스트리밍을 구현해 정확도를 높였다.
• 신규 에이전트 벤치마크: 에이전트 통제 상실 시나리오를 평가하기 위해 FORGE-Bench와 RogueHandoff-20을 도입했다.

주요 보안 기능

• AI 인프라 취약점 스캔: 2,000개 이상의 CVE 규칙 라이브러리를 사용해 Ollama, ComfyUI, vLLM, n8n, Triton 등 100개 이상의 AI 프레임워크에서 리스크를 식별한다.
• MCP 및 스킬 스캔: MCP 서버와 에이전트 스킬에서 14가지 주요 보안 리스크 카테고리를 감지하며, 소스 코드와 원격 URL 분석을 모두 지원한다.
• 제일브레이크 평가: 큐레이션된 데이터셋을 사용해 프롬프트 보안 리스크를 평가하고 모델의 내구성을 비교한다.
• LLM API 오염 탐지: v4.6.0에서 도입된 기능으로, 다중 프로브 블랙박스 감사를 통해 모델 대체 및 백도어 리스크를 탐지한다.

연구 및 벤치마크

플랫폼은 여러 연구 기반 벤치마크를 포함한다.

• FORGE-Bench: 16개 도메인과 1,800개의 궤적에서 자율 에이전트가 합법적인 작업 중 통제 상실을 경험하는 방식을 평가하는 결정적 오라클 기반 벤치마크다.
• RogueHandoff-20: 에이전트가 다른 에이전트에 의해 노출된 안전하지 않은 전략을 채택하는지 테스트한다.
• SkillJack: 오염된 궤적이 자기 진화형 에이전트 스킬 시스템에 영구적인 백도어를 주입하는 방법을 시연한다.

배포 및 라이선스

• 설치: Docker 20.10+, RAM 4GB, 디스크 공간 10GB가 필요하다. docker-compose 또는 원클릭 설치 스크립트를 통해 사용할 수 있다.
• CLI 도구: CI/CD 통합을 위해 aig-skill-scan, mcp-scan, agent-scan을 제공한다.
• 라이선스: Apache License 2.0으로 공개되며, 상업적 또는 내부 통합 시 특정 출처 표기 요구 사항이 있다.