Meta가 대규모 데이터 파이프라인의 암묵지를 AI로 맵핑한 방법

AI 코딩 에이전트는 코드베이스를 이해하지 못하면 빠르게 유용한 수정을 만들지 못한다. Meta는 4개 저장소, 3개 언어, 4,100+ 파일로 이뤄진 대규모 데이터 처리 पाइ프라인에서 이 문제를 해결하기 위해, 파일을 먼저 읽고 지식을 구조화하는 pre-compute engine을 구축했다.

핵심은 50+ 특화 AI 에이전트를 동원해 전 파일을 체계적으로 읽고, 엔지니어 머릿속에만 있던 tribal knowledge를 59개 context file로 압축한 것이다. 그 결과 AI 에이전트는 이제 100% 코드 모듈에 대한 구조화된 탐색 가이드를 갖게 됐고, 커버리지는 **약 5%에서 100%**로 늘었다.

각 모듈은 다음 5가지 질문으로 정리됐다.

• 무엇을 설정하는가
• 어떻게 수정하는가
• 무엇이 빌드를 깨뜨리는가
• 어떤 모듈에 의존하는가
• 코드 주석에 숨어 있는 비문서화 지식은 무엇인가

이 과정에서 50+ non-obvious patterns가 드러났다. 예를 들어 중간 단계의 임시 필드명 관례를 잘못 참조하면 코드 생성이 조용히 실패하고, 일부 deprecated enum value는 직렬화 호환성 때문에 삭제하면 안 되는 식의 규칙이 있었다.

생성된 context file은 "compass, not encyclopedia" 원칙을 따랐다. 파일당 25~35줄, 대략 1,000 tokens 수준으로 유지하고, Quick Commands / Key Files / Non-Obvious Patterns / See Also의 4개 섹션만 담았다. 59개 파일 전체가 현대적 모델 컨텍스트의 0.1% 미만만 차지한다.

효과도 수치로 확인됐다. 파일 경로 검증, coverage gap 탐지, critic 재실행, stale reference 자동 수정까지 포함한 자기 갱신 시스템을 붙였고, 초기 테스트에서는 태스크당 tool call과 token이 약 40% 감소했다. 또 6개 태스크에서 복잡한 워크플로우를 이해하는 데 걸리던 시간이 약 2일에서 30분으로 줄었다.

다만 Meta는 일반적인 오픈소스 코드베이스에서 AI-generated context file이 오히려 성능을 낮췄다는 연구도 함께 언급한다. 그래서 이 접근법은 짧고, 필요할 때만 로드되며, multi-round critic review로 품질을 걸러내는 방식으로 설계됐다. 이미 모델이 아는 공개 코드가 아니라, 모델이 모르는 proprietary config-as-code에서 특히 효과가 크다는 점이 핵심이다.