[if(kakaoAI)2024] 카카오페이증권의 Kubernetes 지능형 리소스 최적화 (Dr.Pym 프로젝트 공유)

카카오페이증권 DevOps팀은 Kubernetes 운영 중 발생하는 리소스 부족, 서비스 안정성 저하, Rightsizing의 어려움이라는 세 가지 핵심 과제를 해결하기 위해 지능형 리소스 최적화 프로젝트인 Dr.Pym을 추진했다.

Dr.Pym은 서비스의 리소스 크기를 상황에 맞게 탄력적으로 조절하여 비용 절감과 서비스 안정성을 동시에 달성하는 것을 목표로 한다. 프로젝트는 총 3단계로 진행되며, 현재는 리소스 추천 기능을 제공하는 Phase 1 단계에 집중하고 있다.

Phase 1의 핵심은 Prometheus 메트릭을 활용해 CPU와 메모리 권장 사용량을 계산하는 것이다.

• Prometheus Recording Rule을 활용해 대규모 쿼리로 인한 부하를 방지하고 데이터 수집 속도를 높였다.
• CPU 추천값은 quantile_over_time 함수를 통해 상위 99% 값을 선택함으로써, 일시적인 스파이크는 허용하면서도 과도한 리소스 할당을 방지한다.
• Memory 추천값은 최근 2주간의 최댓값에 개발 환경 15%, 운영 환경 20%의 마진을 더해 산출한다.