Show HN: Claude, Codex, Cursor에서 직접 사용하는 스마트 모델 라우팅
·2026.06.27 01:40
사용자의 요청에 따라 최적의 LLM을 자동으로 선택해주는 오픈소스 프록시 도구인 RouterArena를 공개했다.
Anthropic, OpenAI, Gemini 등 다양한 LLM 제공업체를 하나의 엔드포인트로 통합하여 관리할 수 있는 드롭인 프록시(Drop-in proxy) 솔루션입니다.
단순한 프롬프트 기반의 방식이 아니라, 온박스(on-box) **임베더(embedder)**를 사용하여 매 요청마다 가장 적합한 모델을 결정합니다. 주요 특징은 다음과 같습니다.
- 지능형 라우팅: Avengers-Pro 논문에 기반한 클러스터 스코러를 통해 매 턴마다 최적의 모델을 선택합니다.
- 광범위한 호환성: Anthropic Messages, OpenAI Chat Completions, Gemini 네이티브 API를 지원하며, OpenRouter를 통해 DeepSeek, Llama, Mistral 등 오픈소스 모델도 사용할 수 있습니다.
- 보안 및 프라이버시: BYOK(Bring Your Own Key) 방식을 기본으로 하여, API 키가 사용자 로컬 환경에 암호화되어 저장되므로 보안성이 높습니다.
- 관측 가능성: 요청 및 라우팅 상태를 모니터링할 수 있는 기능을 제공합니다.
현재 RouterArena 리더보드의 Acc-Cost Arena 부문에서 76.09점을 기록하며 성능을 입증하고 있습니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.
