LLM API 변환 라이브러리 llm-rosetta 공개

llm-rosetta는 OpenAI, Anthropic, Google GenAI 등 서로 다른 LLM API 형식을 상호 변환하는 Python 라이브러리입니다.

기존 LiteLLM이 단방향 변환을 제공하는 것과 달리, **hub-and-spoke 방식의 중간 표현(IR)**을 채택하여 모든 API 간의 자유로운 상호 변환(any-to-any)을 지원합니다. 이를 통해 각 제공자별로 하나의 컨버터만 구현하면 되므로 관리 효율성이 높습니다.

주요 특징은 다음과 같습니다:

• 제로 의존성: 별도의 런타임 의존성 없이 작동하며, zerodep을 활용해 가볍게 설계되었습니다.
• 프록시 기능: 라이브러리 외에도 관리 패널과 대시보드를 갖춘 게이트웨이 형태로 활용 가능합니다.
• 표준 및 호환성: Open Responses 규격 테스트를 통과했으며, Ollama, vLLM, LM Studio 등과 호환됩니다.
• Shim 레이어: OpenRouter, DeepSeek, Qwen 등 다양한 제공자의 특이 사항을 처리하는 전용 레이어를 포함합니다.

이 도구는 실제 멀티 모델 액세스 플랫폼에서 5개월간 운영되며 기술적 유효성을 검증받았습니다.