카카오, AI 기반 배포 관리 플랫폼 '카카오릴리즈'로 DevOps 자동화

카카오는 복잡한 서비스 의존성과 수동 리뷰의 한계를 극복하기 위해 AI 기반 배포 관리 플랫폼 카카오릴리즈를 구축하고 운영 중이다. 이 플랫폼은 배포 계획 수립부터 실행, 모니터링까지 전 과정을 AI와 협업하여 안정성을 높인다.

배포 노트 자동 생성 최적화

기존에는 GitHub과 Jira 데이터를 LLM에 직접 입력했으나, 컨텍스트 과부하와 품질 편차 문제가 발생했다. 이를 해결하기 위해 데이터를 핵심 정보만 추출해 서머리 AI로 요약하고, 제너레이트 AI가 병렬로 초안을 생성하는 3단계 파이프라인을 적용했다.

• 데이터 압축: Jira와 GitHub 정보를 약 44,000 토큰에서 2,300 토큰으로 95% 압축하여 비용과 지연을 줄였다.
• 병렬 처리: 노트를 4개 단위로 나누어 병렬 처리함으로써 평균 120초 이상 걸리던 생성 시간을 30초 이내로 80% 단축했다.
• 일관성 확보: Few-shot Learning과 RAG 기반 스키마 적용으로 출력 형식과 톤앤매너의 일관성을 유지했다.

AI 기반 리스크 리뷰 및 모니터링

카카오릴리즈는 과거 약 500건의 장애 사례를 벡터 DB에 저장하고, 현재 배포 계획과 유사한 위험 패턴을 실시간으로 검색해 리스크를 분석한다. 알고리즘이 정책 위반과 일정 충돌을 정밀하게 검증하고, AI가 유연한 추론으로 대안을 제시하는 하이브리드 방식을 사용한다.

배포 후 24시간 동안은 Matrix AI와 연계한 체인지 트래킹 기능을 통해 에러율, 응답시간, 트래픽 패턴 변화를 실시간 감지한다. 이를 통해 개발자의 수동 모니터링 부담을 줄이고, 이상 징후 발생 시 원인을 분석해 롤백 여부를 판단하는 자율 운영 체계를 지향한다. 향후 ArgoCD, Jenkins 등 다양한 배포 도구와 플러그인 방식으로 연동하여 E2E 자동화를 완성할 계획이다.