CJ올리브영, Amazon Bedrock 기반 AI 에이전트로 운영 자동화 구축

CJ올리브영은 글로벌 프로모션 운영의 안정성을 높이기 위해 Amazon Bedrock의 Claude와 Strands Agents SDK를 활용해 두 가지 AI 에이전트를 구축했다. 인시던트 분석 에이전트는 장애 발생 시 원인과 고객 영향도를 분석해 보상안 후보를 제시하며, 데일리 헬스 체크 에이전트는 운영 데이터를 정기적으로 모니터링해 이상 징후를 선제적으로 감지한다.

코드와 LLM의 역할 분리 아키텍처

에이전트 구현의 핵심은 정해진 계산과 판정은 코드로 수행하고, LLM은 근거를 해석해 운영자의 검토를 돕도록 역할을 분리한 것이다. 초기에는 응답 지연과 결론 불일치 문제가 있었으나, 고객 영향 금액 계산과 지표 상태 판정을 코드에 고정하고 LLM은 분석과 설명에만 집중하도록 제한해 일관성을 확보했다.

운영 효율성 및 검증 결과

실제 운영 데이터로 검증한 결과, 인시던트 분석 소요 시간이 기존 1~2일에서 약 5분으로 대폭 단축되었다. 특히 6분간 32만 건의 오류가 발생한 장애 사례에서 원인 파악부터 피해 규모 산정까지 1분 이내에 완료했다. 데일리 점검에서는 7일 기준선과 최소 트래픽 기준을 적용해 소량 트래픽 구간에서의 오탐을 줄였으며, 결과를 Slack으로 자동 알림하여 운영자가 개발자의 분석을 기다리지 않고 보상 판단에 집중할 수 있게 됐다.