메타의 용량 효율화: 통합 AI 에이전트가 하이퍼스케일 성능을 최적화하는 방법

Meta의 Capacity Efficiency Program은 인프라 전반의 성능 문제를 찾고 고치는 작업을 자동화하는 AI agent platform을 구축했다. 핵심은 표준화된 tool interface와 도메인 지식이 담긴 skills를 결합해, 숙련 엔지니어의 판단을 재사용 가능한 형태로 바꾼 것이다.

이 플랫폼은 이미 수백 MW의 전력을 회수했고, 수작업으로는 약 10시간 걸리던 분석을 약 30분으로 줄였다. 30억 명 이상에게 서비스를 제공하는 환경에서, 0.1% 수준의 성능 저하도 대규모 전력 낭비로 이어지기 때문에 속도와 자동화가 곧 효율로 연결된다.

효율화는 두 축으로 운영된다.

• Defense: FBDetect가 주당 수천 건의 회귀(regression)를 잡아내고, AI가 원인을 코드/설정 변경까지 추적한 뒤 pull request로 되돌림(fix forward) 수정안을 만든다.
• Offense: 엔지니어가 효율 개선 기회를 선택하면 AI가 관련 문서, 유사 사례, 대상 파일과 함수, 검증 기준을 모아 바로 적용 가능한 수정안을 생성한다.

두 흐름의 구조는 같고, 차이는 skills에 있다. 공통 tools로 프로파일링 데이터, 실험 결과, 설정 이력, 코드 검색, 문서 추출을 수행하고, 각 문제 유형에 맞는 skills가 어떤 도구를 어떤 순서로 쓰고 결과를 어떻게 해석할지 결정한다.

예를 들어 회귀 대응에서는 증상이 나타난 함수와 원인 PR의 파일·라인을 찾고, 로그 관련 회귀는 샘플링 증가 같은 완화 전략을 적용한다. 효율 기회 대응에서는 메모이제이션처럼 특정 최적화 패턴을 실행 가능한 코드로 바꾸고, 문법과 스타일, 문제 적합성을 확인한 뒤 리뷰 가능한 PR로 만든다.

이 통합 구조는 이후에도 확장됐다. 대화형 효율 질문 응답, 용량 계획 에이전트, 개인화된 opportunity 추천, guided investigation workflow, AI-assisted validation까지 같은 기반 위에 얹을 수 있었고, 새 기능마다 별도 데이터 통합을 크게 늘리지 않아도 됐다.

결국 메타가 지향하는 것은 AI가 긴 꼬리(long tail)의 조사와 수정 작업을 맡고, 엔지니어는 고부가가치 제품 개발에 집중하는 self-sustaining efficiency engine다.