모듈에서 에이전트로: 5G RAN을 위한 자동 AI 추론 최적화 컴파일러

5G **RAN(Radio Access Network)**의 물리 계층(L1)과 데이터 링크 계층(L2)에서 AI 모델 도입이 가속화되고 있다. 하지만 5G 기지국(gNB) 내 AI 모델은 매우 엄격한 실시간 제약(Hard real-time constraints) 하에서 동작해야 한다. 단 50마이크로초의 지연만 발생해도 전체 통신 파이프라인이 중단될 수 있다.

기존의 TVM이나 OpenVINO 같은 범용 컴파일러는 5G RAN의 타이트한 지연 시간 예산을 맞추기에 부적합하다. 이를 해결하기 위해 그동안은 전문가가 직접 AVX-512 SIMD 최적화된 C++ 커널을 작성해 왔으나, 이는 모델과 하드웨어가 변할 때마다 대응하기 어렵다는 한계가 있다.

삼성 리서치는 이 격차를 줄이기 위해 하드웨어 인지형 AI 추론 최적화 컴파일러를 개발했다. 이 컴파일러는 학습된 AI 모델을 5G RAN 파이프라인에 직접 통합할 수 있는 AVX-512 SIMD 최적화 C++ 커널로 자동 변환한다.

컴파일러 기술은 다음과 같이 두 단계로 발전해 왔다.

• 모듈 기반 컴파일러: 분석, 최적화, 코드 생성 모듈이 결정론적 파이프라인으로 작동한다.
• 멀티 에이전트 컴파일러: 기존의 하드코딩된 모듈 역할을 LLM 기반 에이전트가 수행한다.