#api-optimization
#api-optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#api-optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Vercel AI Gateway가 OpenAI Responses API에 대한 WebSocket 모드를 지원하여 에이전트 실행 속도를 최대 40% 향상시킨다.
Baseten이 지연 시간을 최소화하여 성능을 극대화한 GLM-5.2 전용 초고속 API를 출시했다.
무신사가 Prompt Caching을 도입하여 LLM API 비용을 64% 절감하고 캐시 히트율 98%를 달성했다.
Amazon Bedrock이 OpenAI 및 Anthropic API와 호환되는 새로운 콘솔 경험을 출시하여 모델 평가와 배포를 간소화했다.
지식 그래프를 활용해 AI 코딩 에이전트의 API 호출 횟수를 최대 94%, 속도를 약 77% 개선하는 Codegraph가 공개되었다.
뷰티 컬리가 Redux에서 React Query로 전환해 필터 적용 시 상품 선택 위치를 평균 32위에서 19위로 개선했다.