Workers AI와 AI Gateway를 단일 AI 제어 플레인으로 통합

Cloudflare가 Workers AI와 AI Gateway를 하나의 AI 제어 플레인으로 통합한다. 사용자는 Workers AI를 포함한 모든 모델 제공업체에 동일한 경로로 연결하고, 관측성·로깅·보안·접근 제어·결제를 한곳에서 관리할 수 있다.

Workers binding과 REST API가 통합 진입점으로 동작한다. env.AI.run() 호출에 gateway.id를 지정하거나 /ai/ REST 엔드포인트와 cf-aig-gateway-id 헤더를 사용하면 Workers AI 요청을 AI Gateway를 통해 처리할 수 있다.

default 게이트웨이를 지정하면 별도 설정 없이 첫 인증 요청에서 게이트웨이가 자동 생성된다. 이후 모든 요청에 대해 다음 정보를 확인할 수 있다.

• 전체 요청·응답 payload
• 모델별 토큰 사용량
• 비용 귀속
• 지연 시간 분석
• 오류율

기존의 직접 호출 방식은 세 번째 인자로 gateway: { id: 'default' }를 추가하는 방식으로 변경할 수 있다. 애플리케이션별 트래픽 분리나 사용자 지정 캐싱 규칙이 필요해지면 이름이 지정된 게이트웨이로 전환할 수 있다.

또한 AI Gateway 크레딧을 Workers AI 사용량에도 적용할 수 있도록 통합 결제를 지원한다. 기존에는 AI Gateway 크레딧을 OpenAI·Anthropic 같은 외부 모델 제공업체에만 사용할 수 있었다.