AI Briefing#llm-proxy
#llm-proxy와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-proxy와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Olla v0.1.0이 Hugging Face TEI 지원과 개선된 페일오버 기능을 추가했다.
공식 파이프라인 조작으로 악성 LiteLLM v1.107.0이 배포되어 자격 증명 탈취 위험이 발생했다.
Codex와 Claude Code 등 코딩 에이전트에서 다양한 LLM을 사용할 수 있게 돕는 오픈소스 프록시가 출시되었다.
opencodex는 OpenAI Codex와 Claude Code에서 Claude, Gemini 등 모든 LLM을 사용할 수 있게 해주는 로컬 프록시 도구다.
OpenAI Codex 프로토콜을 다른 LLM API로 변환해주는 로컬 프록시 도구입니다.
클라우드 LLM의 할당량 초과 시 로컬 모델로 자동 전환하여 대화를 유지하는 프록시, Trooper V2가 출시되었다.
단일 에이전트에선 Batch API의 지연이 치명적이고, 여러 에이전트를 묶을 때만 비용 효율이 커진다.
CrabTrap은 프로덕션 에이전트의 HTTP/HTTPS 요청을 LLM으로 판정해 보호한다.