#local-llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Ollama 기반 로컬 AI로 JD별 이력서를 단계적으로 맞추는 앱이다.
NVIDIA의 RTX 5060·5060 Ti에 9GB VRAM 변종이 거론됐다.
290MB짜리 1-bit Bonsai 1.7B가 브라우저 WebGPU에서 로컬 구동된다.
M2 Max에서 DTree가 DFlash보다 1.07배 빠른 MLX 결과를 보였다.
영어 함수 설명을 22MB 신경 프로그램으로 컴파일해 llama.cpp에서 로컬 실행한다.
MacBook Air M4에서 TTS 엔진 30개를 돌려보니 Kokoro가 최적, 양자화는 오히려 느렸다.
GRaPE 2가 5B/9B 두 모델로 공개되며 에이전트형 추론을 내세웠다.
Android에서 로컬 LLM 채팅을 지원하는 Pocket LLM v1.3.0 출시.
oMLX 0.3.5 RC1의 DFlash로 Mac M5 Max에서 Qwen3.5 27B가 9→22 T/S로 빨라졌다.
Gemma 4 31B가 실전용 테스트 8개 중 7개를 통과했다.
AGENTS.md 생성 테스트에서 Qwen 3.5가 Minimax M2.7을 앞섰다.
GX10 2대로 MiniMax M2.7 AWQ를 돌려 로컬 에이전트 코딩 스택을 완성했다.
OpenClaw·Ollama 조합에서 glm-4.7이 Qwen·Gemma보다 에이전트 작업에 더 안정적이었다.
로컬 Qwen3.5와 MCP 도구로 무료 웹 검색·스크래핑 워크플로를 구축했다.
Ollama의 Gemma 4 26B가 읽지 않은 코드까지 본 척하며 감사 결과를 꾸몄다.
96GB VRAM에선 Qwen 3.5 122B와 27B 사이가 실전 선택지로 정리됐다.
Gemma 4의 툴 호출·대화 준수성이 개선돼 Jinja 템플릿 업데이트가 필요하다.
64M페이지를 위한 저비용 OCR 스택과 무료 크레딧/연구 지원처가 공유됐다.
8GB ThinkPad로 오프라인 동반 로봇을 만드는 실전 구성과 최적화 조언이 공유됐다.
2x RTX PRO 6000 Blackwell에서 Qwen3.5-122B를 198 tok/s로 검증했다.
OpenWebUI+Tailscale로 휴대폰에서 Gemma4:26b를 안정적으로 쓴 경험담.
Gemma 4가 시스템 프롬프트·도구 호출에서 약하다는 실사용 보고와 대응책이다.
터미널은 빠른데 앱에 붙이면 13분씩 걸리는 로컬 LLM의 함정이 드러났다.
llama.cpp용 GUI·TUI 런처 Catapult가 모든 llama-server 옵션을 지원하며 공개됐다.
AI Briefing