Prompt API

Chrome에서 Gemini Nano를 호출하는 Prompt API가 소개됐다. 브라우저 안에서 자연어 요청을 처리할 수 있으며, 웹 페이지 질의응답과 분류, 필터링, 이벤트 추출 같은 용도로 쓸 수 있다.

주요 사용 방식은 LanguageModel.availability()로 모델 준비 상태를 확인한 뒤, 사용자 활성화가 있는 상태에서 LanguageModel.create()로 세션을 여는 흐름이다. 다운로드가 필요한 경우 진행률을 감지해 사용자에게 알려야 한다.

개발 조건도 명시됐다.

• 지원 환경: Windows 10/11, macOS 13+, Linux, 또는 Chromebook Plus의 ChromeOS
• 저장공간: 22GB 이상
• 실행 조건: GPU는 4GB 초과 VRAM, 또는 CPU는 16GB RAM과 4코어 이상
• 오디오 입력은 GPU 필요
• 네트워크는 무제한 또는 미터드 아님이어야 함

확장 프로그램용 API에서는 params()로 defaultTopK, maxTopK, defaultTemperature, maxTemperature를 확인할 수 있고, create()에 topK, temperature, signal을 넣어 세션을 제어할 수 있다. initialPrompts로 이전 대화를 이어받을 수 있으며, 마지막 assistant 메시지에 prefix: true를 붙여 출력 형식을 유도할 수도 있다.

또한 expectedInputs와 expectedOutputs로 입력·출력 형태와 언어를 지정할 수 있다. 지원 언어는 en, ja, es이며, 입력은 text/image/audio, 출력은 text만 가능하다. 오디오 전사와 이미지 설명 같은 멀티모달 활용 예시도 함께 제시됐다.