AI 에이전트 보안을 위한 참조 아키텍처 공개

AI 에이전트에게 직접적인 실행 권한을 부여할 때 발생하는 보안 위험(프롬프트 인젝션, 잘못된 판단 등)을 해결하기 위한 Agent-Safe Pipeline 참조 아키텍처가 공개되었다.

핵심 설계 원칙은 **"에이전트는 제안하고, 정책이 결정한다(Let agents propose. Let policy decide.)"**이다. 에이전트는 행동을 제안할 뿐, 실제 실행 권한이나 자격 증명을 직접 보유하지 못하도록 설계되었다.

주요 구성 요소 및 흐름:

• IntentCapture: 에이전트의 제안을 변경 불가능한 의도(Immutable Intent)로 고정하고 정규화한다.
• DecionisGate: 독립된 판정 서비스를 통해 허용(ALLOW), 승격(ESCALATE), 차단(BLOCK) 여부를 결정한다.
• PresenceApprovalCoordinator: 사람의 검증을 거치되, 승인 결과는 실행 권한이 아닌 판정 서비스로 전달되는 '증거'로만 활용된다.
• SafeExecutor: 검증된 의도와 허가를 확인한 후, 등록된 핸들러를 실행한다.

보안 핵심 전략:

• 권한 경계 분리: 자격 증명(Credentials)을 에이전트 런타임이 아닌 SafeExecutor 뒤에 배치하여, 에이전트가 직접 하위 시스템을 호출하거나 권한을 탈취하는 것을 원천 차단한다.
• 위협 모델: 에이전트의 프롬프트, 도구 인자, 모델 출력을 모두 신뢰하지 않는 것을 전제로 설계되었다.

이 프로젝트는 TypeScript로 구현되었으며, Apache 2.0 라이선스로 공개되어 다양한 환경에서 AI 에이전트의 안전한 실행 구조를 구축하는 데 활용할 수 있다.