Netflix, Stratum 플랫폼용 컨테이너 리소스 자동 최적화 도구 SRT 공개

Netflix가 서버리스 미디어 처리 플랫폼 Stratum 내에서 컨테이너 리소스를 자동 최적화하는 **Stratum Resource Tuner(SRT)**를 도입했다. 이 플랫폼은 인코딩, 패키징, AI 임베딩을 위해 하루 수십만 개의 컨테이너를 관리하며, 기존 수동 설정은 과도한 리소스 할당과 운영 부담을 초래했다.

튜닝 전략 및 안전 메커니즘

SRT는 전체 리소스 사용량의 70-80%를 차지하는 고처리량 워크로드를 대상으로 하며, 리소스 유형별 차별화된 전략을 적용한다:

• CPU 및 네트워크: 압축 가능한 리소스로 간주해 여유 공간 없이 p99 사용량 수준으로 공격적으로 튜닝한다. 일시적인 제한은 실행 속도에 미치는 영향이 미미하다.
• 메모리 및 디스크: OOM(Out of Memory) 또는 OOD(Out of Disk) 크래시를 방지하기 위해 안전 버퍼를 두고 p99.9 수준으로 보수적으로 튜닝한다. 안정성을 위해 각 사이클당 최대 15% 감소로 변경 사항을 제한한다.

이 시스템은 CREATED, EVALUATING, APPLIED, REJECTED, MONITORED 단계를 포함하는 상태 머신으로 작동한다. 추천 사항은 Keystone 스트리밍을 통해 접근 가능한 Iceberg 테이블에 저장된 최근 한 달간의 사용 데이터를 기반으로 매일 생성된다. 기능 소유자는 리소스 유형별로 자동 리사이징을 수동으로 옵트인해야 한다.