환경미화 프로젝트: 카카오페이 Kubernetes의 자원 낭비 절감하기

카카오페이는 Kubernetes 환경에서 실제 사용량보다 과도하게 할당된 CPU와 Memory 리소스로 인해 서버 비용이 증가하고, 신규 서비스 이관 시 리소스 부족 문제가 발생하는 어려움을 겪었다.

기존의 **VPA(Vertical Pod Autoscaler)**는 이미 사용 중인 **HPA(Horizontal Pod Autoscaler)**와 혼용할 수 없다는 제약이 있었다. 이를 해결하기 위해 카카오페이는 독자적인 리소스 추천 서비스를 개발하는 **'환경미화 프로젝트'**를 추진했다.

프로젝트 아키텍처는 크게 두 가지 모듈로 구성된다.

• Resource Recommender: Thanos로부터 메트릭을 가져와 리소스 추천값을 계산하고 MySQL에 저장한다.
• AgitBot: 계산된 추천값을 사내 게시판인 Agit에 공지하여 개발팀의 자원 효율화를 유도한다.

리소스 추천값 계산에는 Google의 Autopilot 논문 방식을 채택했다. 히스토그램 기반의 Lower/Target/Upper bound 개념과 안전마진(margin-fraction), 그리고 데이터 수집 기간에 따른 신뢰도 보정 계수(confidence_multiplier)를 활용해 정교한 추천값을 산출한다.

테스트 결과, 서버 자원 사용량을 현저히 줄임으로써 실질적인 비용 절감 효과를 확인했다.