Android용 실험적 hybrid inference와 새로운 Gemini 모델

Firebase AI Logic에 hybrid inference용 새 API가 추가돼, Android 앱에서 on-device와 cloud inference를 하나의 흐름으로 다룰 수 있게 됐다.

이 구현은 우선 rule-based routing을 사용하며, 앱은 Gemini Nano를 로컬에서 돌리거나 클라우드의 Gemini 모델로 전환할 수 있다. 온디바이스 실행은 ML Kit Prompt API를 쓰고, 클라우드 inference는 Vertex AI와 Developer API의 모든 Gemini 모델을 지원한다.

사용하려면 firebase-ai와 함께 firebase-ai-ondevice 의존성을 추가해야 한다. 초기화 단계에서는 GenerativeModel에 OnDeviceConfig를 넣고, 예를 들어 **PREFER_ON_DEVICE**로 두면 기기에서 Gemini Nano를 우선 사용하고 없을 때 클라우드로 fallback한다. 반대로 **PREFER_IN_CLOUD**는 클라우드를 우선하고, 오프라인일 때 온디바이스 inference로 넘어간다.

현재 이 기능은 experimental 상태이며, 온디바이스 모델은 다음과 같은 제한이 있다.

• single-turn text generation 중심
• 텍스트 입력 또는 single Bitmap image 입력 지원
• 아직 사용하지 못하는 기능은 별도 제한 문서에서 확인 필요

AI Sample Catalog에는 이 hybrid inference를 활용한 새 샘플도 추가됐다. 몇 개의 주제로 리뷰를 생성한 뒤 여러 언어로 번역하는 흐름을 보여준다.

새 이미지 생성 모델로는 두 가지가 소개됐다.

• Nano Banana Pro (Gemini 3 Pro Image): 전문 에셋 제작용으로, 특정 폰트나 필기체까지 포함한 고정밀 텍스트 렌더링에 강점이 있다.
• Nano Banana 2 (Gemini 3.1 Flash Image): 고속·대량 처리용 모델로, 인포그래픽, 가상 스티커, 문맥형 일러스트 같은 작업에 적합하다.

이 두 모델은 현실 세계 지식과 깊은 reasoning을 활용해 더 정확하고 상세한 이미지를 생성한다. 예시로 Magic Selfie 샘플은 배경 분리까지 이미지 생성 모델이 직접 처리하도록 바뀌었고, 구현도 더 단순해졌다.

마지막으로 Gemini 3.1 Flash-Lite도 공개됐다. Android 개발자들이 선호해 온 Flash-Lite 계열의 장점을 유지하면서, Gemini 2.5 Flash-Lite에 가까운 latency로 더 발전된 use case를 지원한다. Firebase AI Logic SDK와 문서에서 바로 확인할 수 있다.