AI Briefing#local-llm
#local-llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#local-llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
ChatGPT 대화로 로컬 파일 수정과 터미널 명령을 실행하는 오픈소스 MCP 앱 'Chat On Steroids'가 공개됐다.
Draw Things가 macOS 샌드박스 환경에서 로컬 LLM 추론과 코드 실행을 지원하는 'Local Code' 공개 베타를 출시했다.
클라우드 AI 에이전트가 로컬의 Piper를 제어해 코드 생성 비용을 절감하는 오픈소스 도구 공개
Ollama와 하이브리드 인덱싱을 활용해 로컬 문서에 대한 RAG를 수행하는 CLI 도구 'raggy'가 공개됐다.
DiffusionGemma를 파인튜닝한 OUI-1 모델이 Generative UI 벤치마크에서 71.7%를 기록하며 로컬 실행 가능한 고품질 UI 생성 기술을 공개했다.
로컬에서 음성 클론, 영상 더빙, 전사를 수행하는 오픈소스 도구 VoiceStudio가 공개되었다.
Pangram API 의존 없이 로컬에서 AI 텍스트를 감지하는 Chrome 확장 프로그램 Deckard가 공개됐다.
AI 에이전트 스킬 라우팅을 위한 오픈소스 도구 Routed가 공개되어 20ms 이내 CPU 처리로 토큰 비용을 절감한다.
Hugging Face가 Claude Code 등 코딩 에이전트의 세션 간 추론을 보존하는 로컬 기반 오픈소스 메모리 도구 'funes'를 공개했다.
Vellium v1.1.0이 로컬 STT/TTS와 llama.cpp 자동 감지를 지원하는 업데이트를 공개했다.
OpenAI Codex가 로컬 프로바이더로 처리된 대화 내용을 분석 데이터로 위장해 OpenAI 서버로 전송한 사실이 확인되어 보안 문제가 제기됐다.
AI 에이전트가 수집함 메모를 자동 분류하고 자연어 질의를 지원하는 오픈소스 마크다운 노트 앱 Rocketnotes가 공개됐다.
Mac용 네이티브 LLM 추론 서버 oMLX가 공개되어 SSD 기반 KV 캐시로 에이전트 대기 시간을 5초까지 단축했다.
Ollama의 기본 컨텍스트 길이, 병렬 요청 수, 상주 모델 제한 설정이 메모리 사용량을 급증시켜 GPU 오프로드 실패의 주된 원인이 된다.
PCIe 스트리밍을 활용해 소비자용 GPU에서 대규모 MoE LLM을 실행하는 오픈소스 엔진 LayerStoRm이 공개됐다.
Superwhisper의 600M 파라미터 LLM S1-mini가 WebGPU를 통해 브라우저에서 로컬로 실행된다.
24GB GPU 환경에서 Qwen3.8-27B가 코딩 및 추론 작업에서 가장 뛰어난 성능을 보였다.
Nous Research의 Hermes Agent가 기여자 2,500명을 돌파하며 오픈소스 AI 에이전트의 저력을 입증했다.
로컬 Ollama 모델을 활용해 구독료 없이 실행 가능한 오픈소스 코딩 에이전트 OpenClaude가 공개되었다.
Ollama와 연동하여 VRAM 사용을 최소화하며 고속 문서 파싱을 지원하는 로컬 메모리 엔진 Hillock v0.4가 출시되었습니다.