현대오토에버의 Amazon Bedrock 기반 다중 AI 에이전트: 장애 대응 시간을 5분으로 단축하기

현대오토에버 차량제어서비스개발팀은 AWS GenAI Sandbox 해커톤에서 ErrorWatcher를 구현해, 장애 대응 시간을 수 시간에서 5분으로 단축했다. 이 팀은 Spotlight Award를 수상했으며, 실제 운영 문제를 생성형 AI로 풀어냈다.

핵심은 LangGraph 기반의 다중 AI 에이전트 오케스트레이션이다. 시스템은 Monitor, Detective, Solver, Reporter의 4개 에이전트가 순차적으로 협력해 증상 수집, 근본 원인 분석, 해결책 제시, 보고서 생성을 자동화한다.

아키텍처는 다음과 같다.

• LLM: Claude Sonnet on Amazon Bedrock
• 오케스트레이션: LangGraph on AWS Lambda
• RAG: Amazon Bedrock Knowledge Base와 OpenSearch Serverless
• 저장소: Amazon S3
• UI: Streamlit

팀은 완전관리형 Amazon Bedrock Agents 대신, 에이전트 간 상태 전달과 실행 흐름을 세밀하게 제어하기 위해 StateGraph 기반 커스텀 오케스트레이션을 택했다. 또한 Knowledge Base 검색에 메타데이터 필터링을 적용해, Detective는 past-incidents/와 architecture/, Solver는 runbooks/, Reporter는 templates/만 참조하도록 구성했다.

지속 학습도 넣었다. 분석 결과에 HIGH/MEDIUM/LOW 신뢰도를 부여하고, 신뢰도가 높은 보고서는 learned-cases/에 자동 저장해 이후 유사 장애 분석의 근거로 활용한다. 예시로는 EKS Pod CrashLoopBackOff 상황에서 메모리 제한 부족으로 인한 OOMKilled를 원인으로 좁히고, kubectl patch와 rollout restart 같은 즉시 조치와 HPA 도입 같은 장기 개선책을 제시한다.

향후에는 핵심 지표를 미리 감시하는 Proactive Monitoring, Teams 알람과 승인 절차를 결합한 Human-in-the-Loop 자동화, 그리고 채팅 기반 요청이 가능한 Teams Webhook 연동으로 발전시킬 계획이다.