Google Gemma 4, iPhone에서 완전 오프라인 AI 추론 지원

Google의 오픈소스 모델인 Gemma 4가 iPhone에서 인터넷 연결 없이 네이티브로 동작하며 완전한 오프라인 추론을 수행할 수 있게 되었습니다.

모델 성능 및 최적화

• Gemma 4 31B 모델은 Qwen 3.5 27B 모델과 유사한 성능을 보여줍니다.
• 모바일 환경에 최적화된 E2B 및 E4B 변형 모델이 제공됩니다. 특히 E2B는 속도, 경량성, 발열 제어에 유리하여 Google 앱에서 기본적으로 권장됩니다.

실행 및 활용

• 사용자는 App Store에서 Google AI Edge Gallery 앱을 통해 API나 클라우드 의존성 없이 기기 내에서 직접 모델을 선택하고 추론을 실행할 수 있습니다.
• 해당 앱은 단순 텍스트 인터페이스를 넘어 이미지 인식, 음성 상호작용, 확장 가능한 Skills 프레임워크를 포함하는 온디바이스 AI 실험 플랫폼 역할을 합니다.

기술적 특징

• 추론 과정에서 iPhone의 GPU를 활용하여 낮은 지연 시간을 구현하며, 소비자용 하드웨어에서도 고성능 AI 워크로드 처리가 가능함을 입증했습니다.
• 다만, Apple의 전용 가속기인 **ANE(Apple Neural Engine)**가 아닌 GPU를 사용하므로, 배터리 효율 측면에서는 향후 최적화 여지가 남아 있습니다.