크롬 프롬프트 API

Chrome Prompt API는 브라우저에 내장된 Gemini Nano 를 호출하는 네이티브 AI 인터페이스다. 서버 왕복 없이 온디바이스 추론 을 수행해 지연과 개인정보 노출을 줄이는 방향으로 설계됐다.

주요 기능은 다음과 같다.

• prompt()로 단발 응답을 받고, promptStreaming()으로 ReadableStream 기반 스트리밍 응답을 받을 수 있다.
• 세션 기반 컨텍스트를 관리하며 clone(), destroy(), AbortSignal로 세션 수명과 중단을 제어한다.
• responseConstraint에 JSON Schema 를 넣어 출력 형식을 불리언이나 특정 JSON 구조로 제한할 수 있다.
• initialPrompts, append(), prefix: true를 통해 시스템 프롬프트와 응답 시작 형식을 세밀하게 조정할 수 있다.
• 텍스트뿐 아니라 이미지 와 오디오 입력을 지원한다.
• expectedInputs / expectedOutputs로 입출력 형식과 언어를 지정할 수 있으며, 현재 en, ja, es를 지원한다.

환경 요구사항도 명시됐다. Windows 10+, macOS 13+, Linux, ChromeOS 에서 동작하고, 저장공간 22GB 이상 이 필요하다. GPU VRAM 4GB 초과 또는 CPU RAM 16GB 이상 과 4코어 이상 이 요구된다.

교차 출처 iframe은 allow=\"language-model\" 속성으로 접근을 위임할 수 있지만, 웹 워커는 아직 지원하지 않는다. Chrome 138부터 오리진 트라이얼로 제공된다.