Apple Neural Engine: Architecture, Programming, and Performance

Apple의 A11부터 M5에 이르는 Neural Engine(ANE) 아키텍처를 역공학(Reverse-engineering)을 통해 분석한 연구 결과입니다. 직접적인 하드웨어 측정과 프라이빗 런타임, 컴파일러, 커널 드라이버 및 펌웨어에 대한 정적 분석을 바탕으로 작성되었습니다.

주요 분석 내용은 다음과 같습니다:

• 데이터 경로(Datapath) 및 처리량(Throughput)과 에너지 효율의 한계를 결정하는 Roofline 모델
• Core ML 하위에서 엔진에 도달하는 Dispatch 경로
• 컴파일러 및 온디스크(On-disk) 프로그램 포맷
• 가중치 압축(Weight-compression) 방식
• 커널 드라이버, 펌웨어 및 커맨드 프로토콜

본 연구는 M1 및 M5 칩을 대상으로 직접 측정을 수행했으며, Core ML을 통하지 않고 사용자 공간에서 직접 호출 가능한 **비공식 경로(Direct route)**에 대한 정보도 포함하고 있습니다. 다만, 이 경로는 지원되지 않으며 버전 변화에 취약하므로 연구 및 측정 목적으로만 권장됩니다.