#local-llm

#local-llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

RTX6000 Qwen 3.6 테스트

RTX6000 Blackwell에서 Qwen 3.6 27B BF16이 Pac-Man HTML을 생성했다.

·2026.04.23 09시

Qwen35B 상위권

little-coder와 Qwen3.6-35B-A3B 조합이 Aider Polyglot 78.7%를 기록했다.

·2026.04.22 20시

Qwen3.6 압승

108K 토큰 JS 파일 기억 테스트에서 Qwen 3.6이 Gemma 4를 크게 앞섰다.

·2026.04.22 12시

3백만 찍고 종료

Roo Code가 300만 설치를 넘긴 뒤 Roomote에 전면 집중하며 종료된다.

·1·2026.04.22 06시

VRAM 한계 돌파

32GB VRAM에서도 llama.cpp --fit로 Qwen3.6 Q8을 256k 컨텍스트에 57 t/s로 구동했다.

·2026.04.22 03시

퀀트가 성능 갈랐다

같은 프롬프트로 9개 로컬 모델을 돌려, 양자화 제공자 차이와 코드 길이의 상관관계를 비교했다.

·1·2026.04.22 02시

5080로 처음부터

RTX 5080 한 장으로 235M 파라미터 LLM을 처음부터 학습했다.

·1·2026.04.22 01시

듀얼GX10 벤치

듀얼 Asus GX10에서 MiniMax M2.7 4bit를 약 100W로 구동한 벤치 결과다.

·1·2026.04.21 19시

Qwen3.6 35B 8GB 설정

RTX 4060 8GB VRAM에서 Qwen3.6-35B-A3B를 llama-server로 돌리는 설정과 thinking 예산 함정을 공유했다.

·2026.04.21 18시

5090서 77tps

RTX 5090에서 Qwen3.5-27B를 vLLM로 서빙해 77 tps를 기록했다.

·2026.04.21 09시

M2.7, M2.5에 밀림

Terminal-Bench 2.0에서 MiniMax M2.7은 41.3%로 M2.5보다 낮았다.

·2026.04.21 07시

로컬 35B의 반란

Qwen3.6-35B A3B를 2x Tesla P40에서 돌려 SWE-bench Verified를 공략한 실험.

·2026.04.20 23시

앱은 가볍고, 로컬은 강하게

v1.4.0에서 APK를 줄이고 앱 내 모델 다운로드와 전환을 지원.

·1·2026.04.20 01시

스캐폴드가 갈랐다

같은 Qwen3.5-9B Q4도 scaffold만 바꾸자 Aider 성능이 19.11%에서 45.56%로 뛰었다.

·1·2026.04.19 23시

ARM 로컬 추론 속도

Snapdragon X2 Elite Extreme 탑재 Zenbook A16의 llama.cpp 토큰 속도 측정치.

·3·2026.04.19 05시

임베딩 특화 라우터

Qwen3.5-35B-A3B 기반 35도메인 LoRA 라우팅 모델이 나왔다.

·2026.04.18 11시

5060 Ti로 35B 실측

RTX 5060 Ti 16GB에서 Qwen3.6-35B-A3B가 prebuilt 대비 약 10% 빨라졌다.

·1·2026.04.18 09시

5070 Ti+RX 9070로 100tps

RX 9070과 RTX 5070 Ti를 묶어 Qwen 35B Q4를 100tps 이상으로 구동했다.

·1·2026.04.18 07시

Qwen 3.6 대승

30k LOC 에이전트 평가에서 Qwen 3.6 35B가 Gemma 4 26B를 앞섰다.

·2·2026.04.18 05시

MoE가 뒤집었다

듀얼 RTX 5060 Ti에서 Qwen 3.6-35B-A3B가 90K 컨텍스트 21.7 tok/s를 기록했다.

·2026.04.18 02시

Unsloth가 벤치마크 1위

Qwen3.6-35B-A3B GGUF 벤치마크에서 Unsloth 양자화가 KLD 대비 용량 효율이 가장 좋다고 주장한다.

·2026.04.18 01시

Qwen 3.6 벤치

Qwen3.6-35B-A3B-UD-Q2_K_XL이 16GB VRAM 노트북에서 58회 툴콜을 98.3% 성공률로 처리했다.

·2026.04.17 21시

Qwen3.6-35B-A3B가 Claude Opus 4.7보다 더 나은 펠리컨 이미지를 생성함

로컬 Qwen3.6-35B-A3B가 Opus 4.7보다 펠리컨 SVG를 더 잘 그렸다.

·1·2026.04.17 19시

MoE 거세판 등장

Qwen3.6-35B-A3B의 MoE 특성을 겨냥한 abliteration 버전이 HF에 올라왔다.

·2·2026.04.17 12시