야놀자가 Strands SDK와 Bedrock AgentCore로 AIOps Agent를 구축한 사례

야놀자는 복잡해진 클라우드 인프라 운영의 반복 업무와 장애 대응 비효율을 줄이기 위해 Amazon Bedrock AgentCore와 Strands Agents SDK를 기반으로 AIOps Agent를 구축했다. 6개 팀, 14명의 엔지니어가 6주간 Full-day Sprint로 참여해, 현업의 구체적인 Pain Point를 직접 자동화하는 방향으로 프로젝트를 진행했다.

도입 배경은 명확했다. 매일 8건 이상 발생하는 정형화된 운영 문의, 장애 발생 후 포스트모템 작성까지 최대 2주가 걸리던 대응 지연, IDP 장애와 DB 알람처럼 수동 분석이 필요한 복잡한 진단, 그리고 AWS 비용 확인의 어려움이 누적돼 있었다. 목표는 단순한 PoC가 아니라 수동 업무 시간 50% 이상 감소와 조직 내부의 AI Champion 양성이었다.

솔루션의 중심에는 Amazon Bedrock과 Bedrock AgentCore가 있었다. 엔터프라이즈급 보안, 다양한 Foundation Model 지원, 완전 관리형 운영 환경, 8시간 장기 실행 워크로드 지원 같은 특성을 활용해 Agent 개발과 운영 부담을 줄였다. 또한 Bedrock Knowledge Base와 OpenSearch를 결합해 Self-correct RAG 패턴을 적용하고, 기존 문서와 장애 히스토리를 Agent의 지식으로 연결했다.

복잡한 Agent 간 협업은 Strands Agents로 구현했다. 모델의 추론 능력에 기반해 계획, 위임, 평가를 수행하는 model-driven 방식으로 Orchestrator Agent가 Sub-Agent를 조율했고, Agent 간 context 공유와 MCP 연동으로 AWS API, DataDog, GitHub, ArgoCD, Harbor 등 외부 시스템과 연결했다.

구축된 6개 Agent는 각 팀의 운영 업무를 직접 겨냥했다.

• IDP 운영 효율화: Support Agent가 요청 의도를 파악하고 Knowledge Agent, Provisioning Doctor Agent, Runtime Diagnostic Agent를 위임해 IDP 장애 진단과 해결을 자동화했다.
• Slack 기반 장애 대응 자동화: Slack Bot과 AI Agent가 장애 상황을 요약하고, 관련 메트릭과 로그를 수집해 24시간 이내 포스트모템 초안을 생성하도록 했다.
• DB ChatBot: Datadog, CloudWatch, Confluence, Knowledge Base를 활용해 DB 알람 분석, 원인 파악, 담당자 식별을 자동화했다.
• DataCenter Agent: Ansible로 서버와 스위치 상태를 수집하고, 변경 사항을 AI가 문서에 반영해 자산 정보의 최신성을 유지했다.
• FinOps Helper: 자연어 비용 질의를 받아 Athena(CUR) SQL을 자동 생성하고, 비용 최적화 가이드를 제안했다.
• DD_Kitty: Slack, SQS, Lambda를 거쳐 Bedrock을 호출하고, GitHub Manifest 분석과 설정 검증을 순차적으로 수행했다.

성과도 분명했다. 14명의 엔지니어가 프롬프트 엔지니어링, RAG 파이프라인, Agent 도구 연동을 직접 경험하며 AI Agent 개발 역량을 내재화했고, 운영 업무를 "AI Agent에게 위임 가능한 작업"으로 재정의하는 관점이 조직 전반으로 퍼졌다. 포스트모템 작성 시간은 2주에서 24시간으로, MTTR은 10분에서 5분으로 줄이는 방향의 효과를 기대했고, 수동 업무 시간도 50% 이상 줄이는 목표를 세웠다.

향후에는 자연어 요청을 자동 위임하는 Core Agent, 코딩 없이 Agent를 만드는 Agent Builder, A2A 프로토콜 기반의 멀티 에이전트 협업, 그리고 SRE·DBA·DevOps·Security까지 확장되는 도메인 특화 Agent 생태계를 구축할 계획이다.