대규모 라이브 스트리밍을 더 똑똑하게: Netflix 라이브 이벤트 전체에 VBR 도입

Netflix는 2026년 1월 26일부터 모든 Live 이벤트를 CBR 대신 VBR(Variable Bitrate) 로 인코딩하고 있다. Live 파이프라인에서는 AWS Elemental MediaLive의 QVBR 설정을 사용하며, 더 효율적인 인코딩과 더 낮은 네트워크 부하를 목표로 했다.

기존 CBR은 스트림별 해상도와 명목 bitrate만 정하면 실제 전송량이 거의 일정해 용량 계획이 쉬웠다. 하지만 실제 영상은 장면 복잡도에 따라 압축 난도가 크게 달라지므로, 단순한 장면에도 불필요하게 많은 비트를 쓰거나 복잡한 장면에서는 충분한 비트를 쓰지 못하는 문제가 있었다.

VBR은 고정 bitrate가 아니라 목표 품질에 맞춰 bitrate를 조절한다. 단순한 장면에서는 bitrate를 크게 낮춰 같은 품질을 더 적은 데이터로 전달하고, 화면이 복잡해지면 더 많은 비트를 써서 화질 저하를 막는다.

효과는 분명했다.

• 평균적으로 전송 바이트 약 15% 감소
• 피크 분당 트래픽 약 10% 감소
• 시간당 rebuffers 약 5% 감소

하지만 VBR은 장면에 따라 bitrate가 크게 흔들릴 수 있어 안정성이 핵심 과제가 됐다. 낮은 bitrate가 오래 이어지면 서버가 한가해 보이기 때문에, 기존처럼 현재 트래픽만 보고 세션을 더 얹으면 이후 장면 전환 시 bitrate가 급등하면서 링크나 NIC가 과부하될 수 있었다.

이를 막기 위해 Netflix는 서버가 추가 세션을 받을 수 있는지 판단할 때 현재 트래픽이 아니라 각 스트림의 nominal bitrate 를 기준으로 용량을 예약하도록 바꿨다. 이렇게 하면 VBR의 일시적 저비트 구간에 속지 않고, bitrate가 다시 올라와도 서버가 감당 가능한 수준을 유지할 수 있다.

품질 측면에서도 기존 CBR ladder를 그대로 쓰면 문제가 드러났다. VMAF 오프라인 분석과 초기 A/B 테스트에서 전체적으로 약 1점 낮은 VMAF가 관찰됐고, 특히 낮은 bitrate 구간에서 차이가 컸다.

해결책은 rung별로 CBR과 VBR을 비교해, VBR이 CBR보다 1 VMAF point 이상 낮아지는 구간만 명목 bitrate를 조금 올려 격차를 메우는 방식이었다. 고비트레이트 구간은 대부분 그대로 유지했고, 그 결과 품질은 CBR ladder와 맞추면서도 전체 트래픽은 더 낮은 VBR ladder를 만들 수 있었다.

앞으로는 두 방향을 더 밀고 있다.

• 디바이스 ABR 알고리즘이 다음 몇 초의 실제 segment size를 더 잘 반영하도록 개선
• 현재는 명목 bitrate 기준으로 보수적으로 잡는 용량 예약에, 실제 VBR 동작을 반영한 discount 를 적용해 추가 여유분 확보

핵심은 단순한 설정 변경이 아니라, VBR의 효율성을 살리면서도 대규모 Live 운영에서 필요한 예측 가능성과 안정성을 함께 유지하는 운영 모델을 다시 설계한 데 있다.