AI Gateway의 Zero Data Retention

여러 AI model provider를 함께 쓰면 데이터 정책이 제각각이라 관리 부담이 커진다. 각 provider의 약관을 일일이 확인하고, 보안 요구사항을 맞추고, 개발자가 요청마다 opt-out을 빠뜨리지 않도록 챙겨야 하기 때문이다.

AI Gateway는 이런 협상과 강제를 대신 처리한다. OpenAI, Anthropic, Google 등과의 Zero Data Retention(ZDR) 계약이 적용되는 provider로만 라우팅해, 팀이 정책을 provider별로 따로 운영하지 않아도 되게 만든다.

이번 업데이트의 핵심은 team-wide ZDR다. Dashboard 설정에서 한 번만 켜면 이후 모든 요청에 대해 ZDR-compliant provider만 사용하며, 코드 변경 없이 팀 전체에 동일한 정책을 적용할 수 있다. 이 기능은 Pro와 Enterprise 팀에서 사용할 수 있다.

함께 제공되는 제어는 다음과 같다.

• per-request ZDR: 민감한 워크플로우에만 요청 단위로 ZDR를 적용
• Disallow Prompt Training: provider가 prompt 데이터를 학습에 쓰지 못하도록 차단
• audit metadata: 어떤 provider가 검토됐고 어떤 provider가 걸러졌는지 응답에 남겨 추적 가능

team-wide 설정과 per-request 설정은 함께 작동하며, 둘 중 하나만 켜져도 ZDR가 강제된다. ZDR는 prompt training opt-out까지 포함하는 상위 개념이어서, ZDR를 활성화하면 학습 차단도 자동으로 충족된다.

이 정책은 AI SDK, Chat Completions API, Responses API, Anthropic Messages API, OpenResponses API와 함께 동작한다. 결과적으로 데이터 보호를 애플리케이션 코드에 흩어진 커스텀 로직으로 처리하지 않고, gateway 인프라 수준에서 일관되게 관리할 수 있다.