Tailscale, Vercel AI Gateway 기반 고객용 모델 라우터 'Aperture' 구축

Tailscale이 Vercel AI Gateway와 Vercel Sandbox를 기반으로 고객 제품 내 수백 개의 AI 모델을 출시하는 솔루션 Aperture를 구축했다. 기존 인프라 회사로서 자체 라우팅 계층을 개발하려 했으나, 엔지니어링 복잡성과 보안 이슈로 인해 Vercel 솔루션을 채택했다.

Vercel 선택 배경 및 기술 스택

Tailscale은 개별 API 키 대신 tailnet 네트워크 ID를 통해 모델 접근 권한을 제어한다. AI Gateway는 수백 개 모델에 대한 단일 API를 제공하며, 모든 요청에서 비용 및 사용량을 반환해 고객에게 지출 내역을 투명하게 표시한다. Sandbox는 에이전트 실행을 위한 격리된 환경을 제공하며, 프라이빗 데이터와 공개 인터넷 접근이 결합된 'lethal trifecta' 보안 위험을 해결한다.

Zero Data Retention 및 비용 구조

데이터 보호를 중시하는 고객을 위해 **Zero Data Retention(ZDR)**을 지원한다. AI Gateway는 자체 데이터 보존이 없으며, 전역 설정 또는 요청별 플래그를 통해 ZDR 준수 제공업체로만 라우팅을 제한할 수 있다. 비용 측면에서는 어떤 제공업체나 모델의 토큰 비용에 마크업이 없으며, BYOK(Bring Your Own Key)도 지원한다.

내부 마이그레이션 및 향후 목표

Tailscale은 내부 AI 레이어도 AI Gateway로 마이그레이션하여 수십 개의 프로바이더 계정 관리를 통합했다. 이 과정은 무중단으로 완료되었으며, 엔터프라이즈 고객용 플레이북으로 활용된다. 현재 Aperture는 Chat UI와 MCP 커넥터를 지원하며, 향후 가입부터 앱 빌드 및 공유까지 10분 이내로 완료하는 'Time to first app'을 목표로 한다.