magnitude: 내 하드웨어에 딱 맞는 로컬 모델 자동 추천 및 실행

기존 AI 에이전트를 로컬 환경에서 돌리려면 하드웨어 사양 확인부터 모델 양자화, 추론 서버 설정까지 복잡한 과정을 거쳐야 했다. Magnitude는 이 모든 단계를 자동화해 내 PC의 칩, 메모리, 대역폭을 분석하고 최적의 모델을 추천한다. 추천된 모델은 자동으로 다운로드되고, 추론 성능을 위해 세팅된 상태로 실행된다.

Claude Code, Cline, OpenCode 등 주요 코딩 에이전트와 연동되어 기존 워크플로우를 유지하면서 로컬 LLM을 사용할 수 있다. 토큰 비용이나 API 키가 필요 없으며, 모든 데이터는 로컬에만 저장된다. 모델은 요청 시에만 메모리에 로드되고 유휴 상태나 메모리 부족 시 자동으로 언로드되어 자원 효율을 극대화한다.

macOS와 Linux를 지원하며 Windows는 WSL을 통해 사용할 수 있다. Apache 2.0 라이선스의 오픈소스 프로젝트로, Hugging Face의 GGUF 모델 등 외부 모델도 자유롭게 추가할 수 있다. 인터넷 연결 없이 완전히 오프라인 상태로 작동하므로 보안이 중요한 환경에서도 안심하고 쓸 수 있다.