freellmapi: 34개 무료 LLM을 하나의 OpenAI API로

각기 다른 34개 LLM 제공사의 무료 티어를 하나의 OpenAI 호환 엔드포인트로 통합한다. 개별 SDK와 복잡한 레이트 리밋 설정을 대신해, 기존 OpenAI 클라이언트 라이브러리를 로컬 서버로만 지목하면 된다. 474개 모델 패밀리와 635개 무료 엔드포인트를 단일 /v1 API로 노출한다.

라우터는 각 요청에 최적의 모델을 선택하고, 한 제공사가 레이트 리밋에 걸리면 자동으로 다음 제공사로 전환한다. 키별 사용량을 추적해 모든 무료 티어 한도를 초과하지 않도록 관리한다. 모델 카탈로그는 서명된 피드에서 자동으로 갱신되어, 새 모델 출시나 쿼터 변경 시 git pull 없이 최신 상태를 유지한다.

Claude Code, Codex CLI, Gemini CLI 등 주요 코딩 에이전트와 CLI가 이 API와 직접 연동된다. npx freellmapi setup-claude 같은 명령어로 설정이 자동 생성되며, 기존 설정은 백업된다. Zed와 JetBrains AI는 Ollama 에뮬레이션을 통해 연결된다.

무료 티어는 개별적으로는 제한적이지만, 이 도구로 통합하면 월 74억 토큰 규모의 추론 용량을 확보할 수 있다. Node 20+ 환경에서 실행되며, Raspberry Pi와 같은 ARM SBC에서도 약 40MB의 메모리를 사용한다. 개인 개발자나 소규모 팀이 비용을 절감하며 다양한 LLM을 실험하는 데 적합하다.