#local-llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Opus 4.7은 확실히 개선됐고, Kimi K2.6-Code-Preview는 아직 보류다.
M2 Ultra 64GB에서 Qwen3.5-35B-A3B Q8_K_XL은 생성 63 t/s를 기록했다.
RTX 5090 32GB에서 Qwen 3.6 35B A3B가 187t/s를 기록했다.
Ollama 라이브러리에 Qwen3.6 모델이 추가돼 바로 실행할 수 있다.
RTX 2000 Ada 16GB에서 Qwen 3.6 35B를 프롬프트 400 t/s, 생성 24 t/s로 구동한 사례.
turbo3로 12GB VRAM 3080에서 Qwen3.6 35B A3B를 260k ctx로 약 40 tok/s 달성.
Qwen3.6에 preserve_thinking이 추가돼 추론 컨텍스트와 KV 캐시 효율을 개선한다.
OpenUI를 붙인 Open WebUI에서 gpt-5.4-mini가 가장 빠르게 반응했다.
실패·성공 피드백으로 기억을 재가중하는 로컬 에이전트 메모리 엔진.
ACE-Step 1.5를 MLX로 돌린 Apple Silicon 로컬 음악 생성 성능과 한계를 정리했다.
Job Bro v0.1.5가 로컬 LLM으로 LinkedIn JD를 비공개 분석한다.
Gemma 4 31B가 이미지 기반 3D 기하 테스트에서 경쟁 모델보다 적은 토큰으로 더 나은 결과를 냈다.
DFlash는 MoE·양자화·동시사용·긴 컨텍스트에서 기대만큼 빨라지지 않는다.
Moondream부터 VTracer까지 전 과정을 로컬에서 돌리는 이미지→SVG 파이프라인이다.
로컬 LLM이 Claude Code의 승인 습관을 학습해 tool call을 자동 허용한다.
로컬 추론 모델 파인튜닝용 10만 샘플 CoT 데이터셋이 공개됐다.
Gemma 4 26B를 MLX 4-bit로 최적화한 빠른 비검열 로컬 모델.
RTX 5080·64GB Windows 11에서 Llama.cpp가 LM Studio보다 약 2배 빨랐다.
RTX 4060 Ti 16GB에서 Qwen3.5-35B를 64k로 40~60 tok/s 구동한 튜닝 기록.
Gemma4 26B와 E4B가 Qwen 3.5 라우팅/응답 품질 문제를 체감상 대체했다.
Qwen3.5 35B로 논문 기반 웹앱을 만들며 70~80K 컨텍스트 유지력을 확인했다.
stateless 실행을 버리고 attach 세션으로 바꾸자 3-agent 협업이 안정화됐다.
Gemma 4 26B a4b에서 다단계 think/tool 루프가 중간에 끊긴다.
Mac Studio M4 Max에서 Gemma 4:26B를 OC+LM Studio로 돌려 40 tok/s를 확보했다.
AI Briefing