Mobile AI Factory, 19배 적은 GPU 시간으로 프론티어 모델 상회
[Paper] Mobile AI Factory: Building Specialized Language Models for Your Mobile Device
·2026.11.16 22:44
핵심 내용
Mobile AI Factory가 19배 적은 GPU 시간으로 프론티어 모델보다 뛰어난 성능을 입증했다
자세히 보기
- Mobile AI Factory는 특정 작업과 모바일 기기에 최적화된 파인튜닝 및 양자화 소형 언어 모델(SLM)을 자동 구축하는 에이전틱 시스템임
- 미확인 테스트셋에서 생성된 온디바이스 모델은 5개 작업에서 5샷 프론티어 모델 2종을 최대 0.34까지 상회하고, 3개 작업에서는 동등한 성능을 보임
- 해당 시스템의 탐색 전략은 엔티티 추출 작업에서 모든 27개 모델 변종을 포괄적으로 학습한 결과와 0.03 이내의 오차를 보이며, GPU 사용 시간을 19배 절감함
- 기기별 측정값은 필수적이며, 이를 누락할 경우 Claude Opus 5.5는 전체 하드웨어 사양을 보유하고 있음에도 불구하고 쉬운/중간 난이도 케이스의 25%, 어려운 케이스의 60%에서 앱 요구사항을 놓침
- 오케스트레이터 LLM은 하이퍼파라미터 튜닝, 실데이터 마이닝, 합성 데이터 생성 중 하나를 선택하며, 정확도를 저하시키는 변경 사항은 고정된 규칙에 따라 롤백됨
- 4종의 안드로이드 폰을 대상으로 한 10개 작업 평가는 최적의 모델 구성이 기기에 따라 달라짐을 입증함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.