#llama-server

#llama-server와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

llama server v0.7.0 기본 포트 변경으로 기존 8080 설정 사용자의 호환성이 깨졌다

·2·2026.10.19 19시

Qwen3.6-35B-A3B 모델에 MTP를 적용하여 llama-server에서 약 1.49배의 디코딩 속도 향상을 달성했다.

·1·2026.05.30 05시

AMD Strix Halo에서 Mistral Medium 3.5는 48k 프롬프트 처리에 약 2시간이 걸렸다.

·2·2026.05.04 03시

dual 3090에서 Qwen3.6을 Claude Code에 붙여 8시간 추정 비용을 $142에서 $4 미만으로 낮췄다.

·1·2026.04.23 09시

Qwen3.6-27B는 27B dense 모델로 이전 초대형 MoE 플래그십을 뛰어넘는 코딩 성능을 내세운다.

·1·2026.04.23 09시

RTX 4060 8GB VRAM에서 Qwen3.6-35B-A3B를 llama-server로 돌리는 설정과 thinking 예산 함정을 공유했다.

·2026.04.21 18시

Qwen3.5 35B로 논문 기반 웹앱을 만들며 70~80K 컨텍스트 유지력을 확인했다.

·2026.04.16 04시

Arc B70에서 Qwen3.5-27B를 돌린 실전 벤치와 문제점을 공유했다.

·2026.04.15 07시