AI Briefing#local-llm
#local-llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#local-llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Claude Code와 Codex CLI의 토큰 소모를 줄이기 위해 무거운 코드 생성 작업을 로컬 LLM으로 위임하는 MCP 기반 플러그인이다.
Claude Desktop의 UX를 유지하며 로컬 Ollama 모델을 사용할 수 있게 하는 오픈소스 도구 cdo가 공개되었다.
Gemma 3 기반 TranslateGemma 모델을 활용한 오픈 소스 번역 도구 비교를 제공한다.
로컬 우선 AI 어시스턴트 Thoth가 Linux 지원과 MiniMax 통합을 포함한 v3.20.0 업데이트를 발표했다.
인간과 AI 에이전트, 로컬 LLM이 앱과 지식 및 기능을 공유할 수 있는 오픈 프로토콜 AIMEAT이 공개되었습니다.
로컬 임베딩과 MCP를 활용해 노트 간 의미 관계를 파악하고 Claude에 컨텍스트를 자동 주입하는 RAG 서버이다.
2억 개 이상의 웹 페이지를 인덱싱하여 API 호출 없이 로컬에서 웹 검색이 가능한 RAG용 오픈 소스 라이브러리입니다.
Claude Code의 생태계를 유지하며 로컬 LLM을 연결해 사용할 수 있는 오픈소스 도구 claudely가 출시되었습니다.
3x3090(72GB VRAM)에서 Mistral Medium 3.5 128B Q3_K_M를 로컬로 돌려 9.67t/s를 실측했다.
RTX 3090에서 Qwen 3.6 35B MoE를 262K context로 돌리는 재현 가능한 세팅을 공개했다.