NetApp Spot으로 AWS EKS 운영비 40% 절감, SLA 보장하며 무중단 전환 성공

비용 최적화 배경과 솔루션 도입

온프레미스에서 AWS 클라우드로 전환한 챗봇 서비스(RB Dialog)는 예상보다 높은 운영 비용으로 인해 최적화가 필요했다. 사내 클라우드 엔지니어링 팀의 추천으로 Spot by NetApp 솔루션을 도입하여 성공적으로 비용을 절감했다. 일반적인 Spot 인스턴스는 종료 위험이 있어 안정성이 필요한 서비스에 적용하기 어려웠으나, Spot by NetApp은 **SLA(Service Level Agreement)**를 보장하여 이를 해결했다.

Spot by NetApp의 작동 원리

이 솔루션은 머신러닝 기반의 Spot 마켓 분석을 통해 인스턴스 가용률과 중단 시기를 예측한다. 예측된 중단을 대비해 기존 인스턴스를 새로운 인스턴스로 무중단 교체하며, 수급 불가 시에는 On-Demand 인스턴스로 전환하여 서비스 중단을 방지한다. 저자 팀의 경우 Spot 인스턴스 평균 할인율은 약 60% 수준이었으며, 최종적으로 전체 클라우드 운영 비용을 약 40% 절감했다.

EKS 환경 적용을 위한 핵심 설정

무중단 운영을 위해 Kubernetes(EKS) 환경에서 다음과 같은 설정이 필수적이었다.

• 파드 생명주기 관리: startupProbe를 설정해 애플리케이션 준비 완료 후 트래픽을 유입시키고, preStop hook과 terminationGracePeriodSeconds를 조정해 종료 시 트래픽 손실을 방지했다.
• PDB(PodDisruptionBudget): 노드 교체 시 파드 동시 종료를 막기 위해 최소 유지 파드 수를 설정했다.
• 분산 배치 전략: topologySpreadConstraints를 사용해 파드를 다양한 노드와 존에 분산시켜 특정 노드 집중 현상을 방지하고 가용성을 높였다.
• Headroom 설정: Spot by NetApp의 Headroom 기능을 활용해 노드 내 여유 공간을 미리 예약함으로써, 노드 교체 시 신규 노드 생성 대기 시간 없이 빠르게 파드를 실행할 수 있었다.

검증 및 결과

nGrinder 부하 테스트 도구를 활용해 노드 교체 및 파드 이동 시 트래픽 처리 여부를 검증했다. 적절한 지연 시간 설정과 분산 배치 전략을 적용한 결과, 대부분의 에러 케이스를 방지할 수 있었다. 이 사례는 안정성이 중요한 서비스에서도 Spot 인스턴스를 활용할 수 있음을 보여주며, 클라우드 비용 최적화 시 NetApp Spot의 적용 가능성을 입증했다.