KernelEvolve: Meta의 Ranking Engineer Agent가 AI 인프라를 최적화하는 방법

Meta는 NVIDIA GPU, AMD GPU, MTIA 칩, CPU가 섞인 이기종 하드웨어에서 대규모 AI 서비스를 운영한다. 모델과 칩 세대가 늘수록 커널 수는 폭증하고, 사람이 일일이 튜닝하는 방식은 더 이상 확장되지 않는다.

이를 해결하기 위해 KernelEvolve를 도입했다. 이 에이전트는 커널 최적화를 하나의 코드 생성 문제가 아니라 검색 문제로 다루며, 수백 개의 후보 구현을 생성·평가·분석하는 자동 루프를 돌린다.

성과도 분명하다. Andromeda Ads 모델의 NVIDIA GPU 추론 처리량은 60% 이상 개선됐고, MTIA 기반 광고 모델의 학습 처리량은 25% 이상 향상됐다. 이 과정은 숙련 엔지니어가 몇 주 걸릴 일을 몇 시간의 자동 탐색으로 압축한다.

핵심 구조는 네 가지다.

• LLM Synthesizer: Triton, CuTe DSL, FlyDSL, CUDA, HIP, MTIA C++ 등 여러 언어와 타깃에 맞는 후보 커널을 생성한다.
• Tree Search Engine: Monte Carlo tree search와 evolutionary strategy로 탐색하며, 부모·형제 노드의 문맥을 선택적으로 활용한다.
• Retrieval-Augmented Knowledge Base: 정확성 제약, 플랫폼 독립적 최적화 지침, 하드웨어별 문서를 검색해 프롬프트에 주입한다.
• Job Harness: 컴파일, 정확성 검증, 성능 측정, 프로파일링, 실패 복구를 맡아 장시간 빌드와 불안정한 환경을 견딘다.

이 접근은 새로운 모델 아키텍처나 새 칩 세대가 나와도 커널 최적화를 계속 자동화할 수 있게 만든다. Meta는 이를 통해 모델 개발 속도를 높이고, 이기종 AI 하드웨어 전반에서 생산용 커널을 더 빠르게 확보하려는 방향을 제시한다.