싱가포르, AI 에이전트 거버넌스 프레임워크 공개

싱가포르 정보통신미디어개발청(IMDA)이 2026년 1월, 자율적으로 파일을 읽고 데이터를 수정하며 결제까지 수행하는 AI 에이전트를 위한 Model AI Governance Framework for Agentic AI를 공개했다. 이 프레임워크는 강제성이 없는 자발적 가이드라인이지만, 감사 기관과 주요 기업들이 참조하는 표준 문서로 자리 잡을 것으로 예상된다.

4가지 핵심 차원

프레임워크는 AI 에이전트의 위험을 관리하기 위해 다음 4가지 차원을 제시한다:

• 접근 권한 제한: 에이전트가 접근할 수 있는 범위를 사전에 명확히 정의
• 인간 책임성 강화: 형식적인 '인간 개입'이 아닌 실질적인 책임 소재 확보
• 기술적 로깅: 모든 행위와 결정 과정을 기술적으로 기록
• 사용자 투명성: 최종 사용자에게 에이전트의 활동과 상태를 지속적으로 알림

실제 리스크 시나리오

프레임워크는 4가지 차원이 모두 실패했을 때 발생할 수 있는 위험을 시나리오로 제시한다. 예를 들어, 인보이스 승인 에이전트가 사기성 인보이스를 6주 동안 조용히 결제하는 상황을 통해, 단순한 챗봇과 달리 자율적으로 행동하는 에이전트가 오류 발생 시 피해가 즉시 확산될 수 있음을 경고한다.