#gemma와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
iOS의 llama.cpp에서 Gemma 4 E2B 멀티모달 OOM을 해결했다.
6900 XT에서 ROCm 6.4.2와 Vulkan을 비교한 llama.cpp 벤치마크를 공개했다.
Pocket LLM v1.5.0이 출시돼 음성·이미지 입력과 OCR을 지원한다.
단일 H100 80GB 벤치마크에서 Gemma 4 E2B와 Qwen 3.6 A3B FP8의 우위가 확인됐다.
H100 단일 GPU 벤치에서 Gemma 4 E2B-it이 처리량과 TTFT 모두 가장 좋았다.
Gemma는 KV 캐시 양자화에 민감했고 Qwen은 상대적으로 견딜 만했다.
Qwen 계열 모델로 Gemma-4-E4B용 채팅 UI를 약 8분 만에 만들었다.
RTX 5090에서 Gemma4와 Qwen 3.5/3.6를 같은 문서 작성 작업으로 비교했다.
Jetson Orin Nano Super에서 Gemma 4 VLA를 로컬로 구동하는 절차를 공개했다.
108K 토큰 JS 파일 기억 테스트에서 Qwen 3.6이 Gemma 4를 크게 앞섰다.
Hadamard rotation과 Lloyd-Max codebook으로 Gemma 4 E2B의 PLI를 2비트로 압축했다.
Google의 온디바이스 LLM 추론 엔진 LiteRT-LM이 공개됐다.
같은 프롬프트로 9개 로컬 모델을 돌려, 양자화 제공자 차이와 코드 길이의 상관관계를 비교했다.
‘uncensored’ 모델도 금지어 확률을 스스로 낮추는 flinch가 있다.
Gemma 4 26B-A4B GGUF에서 Unsloth 퀀트가 KLD 기준 대부분 최상위.
브라우저 안에서 Gemma 4 E2B가 프롬프트를 Excalidraw 다이어그램으로 변환한다.
Snapdragon X2 Elite Extreme 탑재 Zenbook A16의 llama.cpp 토큰 속도 측정치.
30k LOC 에이전트 평가에서 Qwen 3.6 35B가 Gemma 4 26B를 앞섰다.
OpenUI를 붙인 Open WebUI에서 gpt-5.4-mini가 가장 빠르게 반응했다.
24GB VRAM 환경에서 GGUF 양자화 모델들의 MMLU 점수를 비교했다.
Gemma 4 26B를 MLX 4-bit로 최적화한 빠른 비검열 로컬 모델.
RTX 5080·64GB Windows 11에서 Llama.cpp가 LM Studio보다 약 2배 빨랐다.
Gemma 4 26B a4b에서 다단계 think/tool 루프가 중간에 끊긴다.
Mac Studio M4 Max에서 Gemma 4:26B를 OC+LM Studio로 돌려 40 tok/s를 확보했다.
AI Briefing