삼성 계정, Amazon Bedrock AgentCore 기반 멀티 에이전트 AIOps 시스템 구축

삼성 계정은 전 세계 약 21억 사용자를 대상으로 멀티 리전 액티브-액티브 아키텍처로 운영되는 초대규모 통합 인증 시스템이다. 서비스 규모 확대로 인해 멀티 리전, 다계정, 수많은 마이크로서비스가 얽히면서 장애 원인 추적과 보안 점검 등 운영 복잡도가 기하급수적으로 증가했다.

이에 삼성 계정 SRE 조직은 Amazon Bedrock AgentCore를 기반으로 한 Agentic AIOps 시스템을 도입했다. LLM의 비결정성으로 인한 운영 리스크를 줄이기 위해 완전 자율 운영 대신 '분석은 에이전트, 실행은 인간 승인'이라는 원칙 아래 단계적으로 신뢰를 쌓는 방식을 채택했다.

계층형 멀티 에이전트 아키텍처

시스템은 단일 에이전트의 한계를 극복하기 위해 Orchestrator, 도메인 Supervisor, Sub-agent로 이어지는 3계층 구조로 설계됐다. 최상위 Orchestrator가 요청을 분석해 알맞은 도메인 Supervisor로 라우팅하면, 각 Supervisor는 장애 분석, 보안 점검, 비용 최적화 등 6개 운영 도메인 내에서 실제 작업을 수행하는 Sub-agent를 호출한다.

수렴과 확장성을 고려한 설계

Slack과 웹 콘솔 두 가지 입구에서 들어오는 요청은 동일한 Orchestrator로 수렴되어 일관된 분석 로직과 가드레일이 적용된다. 또한 모델 호출, 메모리, 계정 접근 등 공통 기능을 모듈화하고 레지스트리를 통해 에이전트를 관리함으로써, 새 에이전트 추가 시에도 시스템 전체의 일관성을 유지하며 확장할 수 있는 구조를 확보했다.