오픈 소스 커널 스케줄러를 통한 Meta 광고 서비스의 현대화

Meta의 광고 서비스는 초당 평균 500만 건, 하루 4,000억 건 이상의 요청을 처리합니다. 이 과정에서 단 몇 밀리초의 p99 지연 시간(tail latency) 악화도 광고 성과와 광고주 수익률(ROI)에 막대한 부정적 영향을 미칩니다.

기존 Linux 커널의 범용 스케줄러(CFS, EEVDF)는 워크로드의 특성을 이해하지 못한 채 CPU에 스레드를 배분하는 한계가 있었습니다. 특히 Linux 커널 v6.6에 도입된 EEVDF 스케줄러가 광고 서비스에서 지연 시간 퇴보를 일으키며 기술 부채를 유발했습니다.

Meta는 이를 해결하기 위해 BPF 기반의 확장 가능한 스케줄링 프레임워크인 sched_ext를 도입했습니다. 이를 통해 광고 워크로드에 특화된 커스텀 스케줄링 정책을 구현할 수 있었습니다.

새로운 정책은 CPU를 두 개의 풀로 소프트 파티셔닝(soft-partitioning) 합니다.

• 지연 시간에 민감한(latency-critical) 요청 경로 스레드
• 덜 민감한 일반 작업 스레드

이 방식은 관련 작업을 동일한 CPU에 유지시켜 **L3 캐시 지역성(locality)**을 개선하고 DRAM 접근 비용을 줄입니다. 결과적으로 광고 검색 단계의 p99 지연 시간을 28% 감소시켰으며, 3.28MW의 전력을 절감하고 광고 랭킹 수를 1.1% 증가시키는 비즈니스 가치를 창출했습니다.