SRE 업무에 AI를 녹여내기 — 1편: Smart RI Calc로 인프라 비용 산정 자동화

여기어때컴퍼니 SRE팀은 반복적인 수작업인 인프라 비용 산정과 EKS 노드 증설 예측을 자동화하기 위해 Smart RI Calc를 개발했다. 기존 방식은 RI 엑셀 가격표 수동 합산과 SSH 접속을 통한 수동 계산으로, 프로젝트당 20분이 소요되고 엔지니어별 결과 편차가 발생하는 문제가 있었다.

해결책으로 **'읽는 일은 AI, 계산하는 일은 코드, 검토하는 일은 사람'**이라는 원칙을 세웠다. LLM은 비정형 컨플루언스 회의록에서 리소스 정보를 추출하고, 백엔드 코드는 AWS Pricing API를 활용해 정확한 단가를 계산한다. 최종 결과는 사람이 확인하는 Human-in-the-loop 구조를 통해 오차를 방지한다.

특히 Karpenter 기반의 EKS 노드 증설 예측은 단순 스케줄러 복제가 아닌, 실제 운영 데이터를 반영한 시뮬레이션으로 구현했다. 초기 모델은 과잉 견적과 topologySpreadConstraints 미반영으로 실제 배치와 어긋났으나, 최소 가용분 기준 보정 수식과 과반수 점유 금지 규칙을 적용해 정확도를 높였다. 이를 통해 산정 시간을 단축하고 일관된 결과를 도출할 수 있게 되었다.