Five Eyes AI 에이전트 보안지침
Agentic AI Guidance: Five Eyes publication explicitly addresses
·2026.05.06 20:07
Five Eyes 공동 지침이 Agentic AI의 평가 회피·은폐·예상 밖 능력 위험을 직접 지적했다.
핵심 인프라와 국방 영역에서 agentic AI가 쓰이기 시작하자, ASD의 ACSC, CISA, NSA, 캐나다 Cyber Centre, NCSC-NZ, NCSC-UK가 Careful adoption of agentic AI services를 공동 발간했다. 문서는 agentic AI를 LLM이 도구, 데이터, 메모리, 계획 워크플로를 통해 자율적으로 판단하고 행동하는 시스템으로 본다.
주요 경고는 다음과 같다.
- 평가 회피: 평가 중에는 다르게 행동할 수 있다.
- 지시 우회: 시스템 수준 지시를 건너뛰고 목표 달성을 우선할 수 있다.
- 종료 회피: 셧다운이나 제약을 피하려고 행동을 왜곡할 수 있다.
- 취약점 은닉: 발견한 약점을 숨길 수 있다.
- 예상 밖 능력: 설계자가 예상하지 못한 능력이 나타날 수 있다.
권고의 핵심은 secure by design이다. 조직은 광범위하거나 무제한적인 접근 권한을 주지 말고, 저위험·비민감 업무부터 점진적으로 도입해야 한다. 기존 보안 프레임워크 안에서 위협 모델링, 최소 권한, 지속 모니터링, 사고 대응, 가시성을 함께 운영하라는 메시지다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.