Unsloth Desktop - 로컬 AI 모델 실행·학습·에이전트를 하나로 묶은 오픈소스 앱

Unsloth가 macOS·Windows·Linux·WSL에서 사용할 수 있는 오픈소스 앱 Unsloth Desktop 베타를 출시했다. 별도 설정 없이 모델을 내려받아 로컬에서 대화하고, 실행·학습·배포까지 한곳에서 처리할 수 있다.

지원 대상은 LLM, diffusion 이미지·비디오, MLX, GGUF, 오디오 모델이다. 모델 허브에서 기기 성능에 맞는 양자화 모델을 선택해 내려받을 수 있으며, 기존에 보유한 모델 폴더도 자동으로 인식한다.

주요 기능은 다음과 같다.

• 에이전트 연동: Claude Code, Codex, MCP, 웹 검색 등을 연결하고 unsloth start 명령으로 로컬 모델을 에이전트에 연결
• 도구 실행 보안: 파일·인터넷 접근 권한을 제어하고, Bash·Python을 샌드박스에서 실행
• 모델 학습: 텍스트·diffusion·임베딩·오디오 모델의 LoRA, 전체 파인튜닝, 프리트레이닝 지원
• 미디어 생성: FLUX, Z-Image, LTX, Wan 등의 이미지·비디오 생성과 편집, LoRA 학습 지원
• 음성 처리: TTS, STT, Whisper, Qwen3-ASR 등을 로컬에서 생성·미세조정·전사
• 딥 리서치: 검색 계획을 먼저 세운 뒤 출처와 인용을 포함한 보고서 생성
• 모델 서빙: Cloudflare 터널이나 네트워크 바인딩을 통해 로컬 모델을 외부에서 접근 가능하게 제공
• 클라우드 모델: OpenAI, Anthropic, Ollama, llama.cpp, vLLM 및 기타 API를 동일한 채팅 인터페이스에서 사용

Unsloth는 도구 호출 실패를 감지해 수정·재시도하는 self-healing tool call 기능을 제공하며, 최대 50% 더 정확한 도구 호출을 목표로 한다고 설명한다. 학습 기능에 대해서는 기존 Unsloth 기술을 바탕으로 최대 2배 빠른 학습과 70% 적은 VRAM 사용을 지원한다고 밝혔다.

앱에는 텔레메트리가 없으며 완전한 오프라인 실행도 가능하다. NVIDIA·Intel·AMD GPU와 Apple 기기, CPU를 지원하지만 구형 하드웨어는 제한될 수 있다.