router: 클라이언트 요청마다 최적 모델을 자동 선택하는 로컬 프록시
workweave/router
·2026.08.30 05:13
프로젝트 소개
Claude Code, Codex, Cursor 등 다양한 AI 코딩 도구를 localhost:8080 하나로 연결한다. Anthropic, OpenAI, Gemini는 물론 DeepSeek, Llama 같은 오픈소스 모델까지 하나의 엔드포인트로 통합 관리할 수 있다.
핵심은 '행동(action)' 단위의 라우팅이다. 내장된 임베더가 요청 내용을 분석해 가장 적합한 모델을 자동으로 배정한다. 단순한 프롬프트 기반 추측이 아닌, 실제 작업 맥락에 맞춰 성능과 비용을 최적화한다.
데이터 프라이버시를 중시하는 개발자에게 적합하다. API 키는 로컬에 암호화되어 저장되며, 프롬프트는 Weave 서버를 거치지 않고 직접 프로바이더로 전달된다. OTLP 트레이스를 지원해 Honeycomb, Datadog 등 기존 모니터링 도구와도 연동된다.
GitHub 저장소
workweave/router
Model router for agentic systems. Routes every prompt to the right model in <50ms. Cut costs 40-70% with just an endpoint change.
Go
이 한국어 소개글은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.