Lemonade v10.8 출시: 로컬 모델의 MCP 도구화
Lemonade v10.8: auto memory management, cloud offload, Omni improvements, and call your local models as MCP tools
·2026.06.18 04:42
핵심 내용
Lemonade v10.8은 자동 메모리 관리, 클라우드 오프로드 및 MCP 게이트웨이 기능을 도입했다.
자세히 보기
Lemonade v10.8 업데이트를 통해 지능형 메모리 및 컨텍스트 관리 기능이 추가되었습니다. 이제 VRAM을 동적으로 관리하여 유휴 모델을 자동으로 언로드하고 KV-캐시 크기를 조정하여 GPU 메모리를 확보하며, 모델 피닝(Pinning) 기능을 통해 필요한 모델을 메모리에 상주시킬 수 있습니다.
주요 업데이트 사항은 다음과 같습니다:
- 클라우드 오프로드(Cloud Offload): OpenAI 호환 프로바이더(Fireworks, OpenRouter, Together 등)를 로컬 모델과 함께 사용할 수 있는 프로바이더 불문(Provider-agnostic) 백엔드를 지원합니다.
- MCP 게이트웨이(MCP Gateway): 로컬 모델을 MCP(Model Context Protocol) 도구로 노출하여, MCP를 지원하는 호스트가 로컬 모델을 클라우드 API 대신 도구로서 호출할 수 있게 합니다.
- LMX-Omni 확장: 이미지 생성 시 크기, 스텝 수 등의 컨트롤 기능을 제공하며, Hugging Face에서 커스텀 Omni 모델을 가져올 수 있습니다.
- 플랫폼 확장: NVIDIA Blackwell(GB10), AMD ROCm(Windows/Linux), Debian 13 빌드 등 다양한 하드웨어 및 OS 지원을 강화했습니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.