Gemma Gem - 브라우저에서 Google Gemma 4 모델을 완전 온디바이스로 실행하는 Chrome 확장

Google Gemma 4 모델을 WebGPU 기반으로 브라우저 안에서 완전 온디바이스 실행해, 개인 AI 어시스턴트처럼 쓰는 Chrome 확장이다.

• API 키 없음, 클라우드 전송 없음, 외부로 데이터가 나가지 않는다.
• 방문 중인 페이지를 읽고, 버튼 클릭·폼 입력·스크롤·JavaScript 실행까지 수행하는 에이전트형 동작을 지원한다.
• 모델은 Gemma 4 E2B(약 500MB) 와 E4B(약 1.5GB) 중 선택할 수 있으며, 첫 실행 후 캐시되어 재사용된다.
• q4f16 양자화와 128K 컨텍스트를 지원한다.

내장 도구는 6개다.

• read_page_content: 페이지 텍스트, HTML, CSS selector 기준 읽기
• take_screenshot: 보이는 페이지를 PNG로 캡처
• click_element / type_text / scroll_page: CSS selector 기반 DOM 조작
• run_javascript: 페이지 컨텍스트에서 DOM 전체 접근 가능한 JS 실행

구조는 Offscreen Document + Service Worker + Content Script의 3계층이다.

• Offscreen document가 @huggingface/transformers + WebGPU로 모델과 에이전트 루프를 호스팅한다.
• Service worker가 메시지 라우팅과 스크린샷·JS 실행을 담당한다.
• Content script가 gem 아이콘과 shadow DOM 채팅 오버레이를 주입한다.

설정에서는 모델 전환, Thinking 토글, 도구 호출 루프 상한, 대화 기록 초기화, 사이트별 비활성화를 지원한다.

agent/ 디렉터리는 의존성 없이 ModelBackend와 ToolExecutor 인터페이스 기반으로 분리돼 있어, 독립 라이브러리로도 활용할 수 있다.

필요 조건은 WebGPU 지원 Chrome이며, 라이선스는 Apache-2.0, 구현 언어는 TypeScript다.