Show HN: 브라우저에서 Gemma 4 E2B로 Prompt-to-Excalidraw 데모 (3.1GB)

브라우저에서 Prompt → Diagram 흐름을 구현한 데모로, Gemma 4 E2B가 사용자의 설명을 받아 Excalidraw 다이어그램 코드를 생성합니다.

핵심은 모델이 원시 Excalidraw JSON 대신 약 50 토큰짜리 컴팩트 코드를 출력하도록 설계해, 긴 출력 부담을 크게 줄였다는 점입니다.

• 실행 환경: 데스크톱 Chrome 134+
• 추가 요구사항: WebGPU subgroups, 약 3GB RAM
• 제약: 모바일 브라우저는 메모리 한계가 있고, Safari/iOS는 아직 미지원

성능과 메모리 효율을 위해 TurboQuant 알고리즘을 WGSL compute shaders로 다시 구현했고, 이를 통해 GPU에서 30+ tok/s 수준으로 동작한다고 설명합니다.

TurboQuant는 polar + QJL 방식을 사용해 KV cache를 약 2.4배 압축하므로, 더 긴 대화도 GPU 메모리 안에 유지할 수 있습니다.

데모에는 다음과 같은 예시 다이어그램이 포함됩니다.

• OAuth 2.0 PKCE 시퀀스 다이어그램
• Full-stack app
• OAuth flow
• CI/CD pipeline
• TCP state machine
• Engineering org
• E-commerce schema
• Payment classes
• Checkout swimlane

같은 알고리즘을 WASM+SIMD로 구현한 turboquant-wasm npm 패키지도 언급하며, 이는 CPU-side vector search용으로도 활용할 수 있다고 소개합니다.