AI BriefingAI 스킬 라우터 Routed 공개
I built a local-first hybrid router for AI Agent Skills (sub-20ms, zero tokens, runs on CPU) [P]
·2026.09.07 01:34
핵심 내용
AI 에이전트 스킬 라우팅을 위한 오픈소스 도구 Routed가 공개되어 20ms 이내 CPU 처리로 토큰 비용을 절감한다.
자세히 보기
AI 에이전트 워크플로우에서 시스템 프롬프트에 모든 스킬 정의를 포함하거나 LLM을 라우터로 사용하는 방식의 비효율성을 해결하기 위해 오픈소스 도구 Routed가 공개되었다. 이 도구는 100% 로컬 CPU 환경에서 실행되며, 네트워크 전송 없이 20ms 이내로 스킬을 라우팅한다.
하이브리드 스코어링 파이프라인
Routed는 설치된 스킬 디렉터리를 인덱싱하여 다음 4단계 하이브리드 방식으로 프롬프트를 평가한다.
- Dense Vector Embeddings (60%): Arctic Embed S 또는 MiniLM 등 양자화된 ONNX 모델을 CPU에서 로컬 실행
- Lexical BM25 (25%): Okapi BM25를 활용한 엄격한 키워드 관련성 평가
- Exact / Alias Match (10%): 직접 명령어 및 별칭 매칭
- Metadata (5%): 최신성 및 사용 빈도 휴리스틱
주요 기능 및 호환성
v1.1.0 업데이트를 통해 MCP(Model Context Protocol) 서버 지원과 100개 이상의 언어에 대한 네이티브 다국어 이해 기능이 추가되었다. 특히 MCP 모드에서는 GPU 컨텍스트 윈도우에 20개 이상의 도구 스키마를 로드하는 대신, 단일 route_skill 도구만 노출하고 필요 시 정확한 스키마만 주입하여 자원 사용을 최적화한다.
Cursor, Claude Code, LM Studio, Ollama, Windsurf 등 주요 AI 개발 환경과 자동 연동되며, MIT 라이선스로 공개되어 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
