[AWS Summit Seoul 2026] 규제 환경에서의 통제 가능한 AI 에이전트 아키텍처

생성형 AI가 스스로 계획을 세우고 도구를 사용하는 AI 에이전트로 진화함에 따라, 금융·의료 등 규제 산업에서는 데이터 접근 권한과 행동에 대한 거버넌스 확보가 필수적이다.

규제는 단순한 제약이 아니라 안전한 설계를 위한 요구사항이다. 이를 위해 애플리케이션 위에 개인정보보호법, 산업별 규제, 그리고 NIST AI RMF나 AWS Well-Architected Framework 같은 기준을 계층적으로 배치하는 레이어드 컴플라이언스(Layered Compliance) 접근 방식이 권장된다.

안전한 에이전트 구축을 위한 아키텍처는 세 가지 관점으로 나뉜다.

• 구축 및 배포: AWS의 완전 관리형 서비스인 Amazon Bedrock AgentCore를 통해 보안 표준을 빠르게 충족하거나, Amazon EKS 기반의 셀프 매니지드 방식으로 인프라를 직접 통제할 수 있다.
• 통제: 모델의 입출력을 제어하는 영역과 에이전트의 실제 행동을 제어하는 영역을 분리하여 2중 구조로 관리한다.
• 유지: 배포 후에도 품질, 보안, 컴플라이언스 기준을 지속적으로 검증할 수 있는 구조를 갖춰야 한다.