OpenBMB, 온디바이스 멀티모달 AI용 MiniCPM-V 4.7 출시

OpenBMB가 모바일 기기에서 약 3GB 메모리로 실행 가능한 35B-A3B MoE 비전-언어 모델 MiniCPM-V 4.7을 공개했다. 이 모델은 클라우드 의존 없이 실제 표지판 읽기, 복잡한 문서 이해, 시각 정보 추론 등 온디바이스 멀티모달 AI 작업을 수행할 수 있도록 설계됐다.

주요 기술 혁신

• LES (Lookahead Expert Scheduling): 모델 크기를 줄이는 대신 MoE 추론을 최적화하는 기법으로, 전문가(expert)를 예측하고 사전 로드하여 계산 병목을 줄이고 제한된 하드웨어에서 효율적인 실행을 가능하게 한다.
• Self-Replay Fine-Tuning (SRFT): 개발자가 모델의 일반 능력을 유지하면서 특정 작업에 맞춰 커스터마이징할 수 있는 새로운 방법론이다.
• MiniCPM-V 4.7 1B: 자원이 더욱 제한적인 기기를 위해 출시된 소형 변형 모델이다.

이 모델은 실제 제약 조건을 고려한 계획 수립을 지원하며 시각 추론 작업에서 강력한 성능을 보여 모바일 애플리케이션용 클라우드 기반 멀티모달 서비스의 대안으로 주목받고 있다.