Vercel의 Agentic Infrastructure

LLM과 coding agent가 소프트웨어 개발의 마지막 주체를 사람에서 기계로 바꾸고 있다. Vercel은 지난 3개월 동안 weekly deployments가 2배로 늘었고, 전체 배포의 30% 이상이 coding agent에서 시작됐다고 밝혔다. 이는 6개월 전보다 1000% 증가한 수치이며, 이 가운데 Claude Code가 **75%**로 가장 많고 Lovable과 v0가 6%, Cursor가 **1.5%**를 차지한다.

Vercel이 말하는 새 인프라는 Agentic Infrastructure다. 이 변화는 세 단계로 정리된다.

• coding agent가 배포할 수 있는 인프라
• agent를 만들고 실행하는 인프라
• 인프라 자체가 agent처럼 동작하는 구조

핵심 문제는 운영 마찰이다. coding agent가 기능을 작성해도 실행하고 테스트하고 검증할 URL이 필요하다. 그 경로에 수동 Terraform state 관리나 cloud console 클릭이 끼어들면 자율 루프가 끊긴다. 그래서 immutable deployments, 모든 commit의 preview URL, instant rollbacks가 더 이상 편의 기능이 아니라 machine-driven development의 전제 조건이 된다.

Vercel은 CLI, API, MCP servers, git integration을 통해 agent가 스스로 코드를 만들고, PR을 열고, preview URL로 검증한 뒤, production까지 배포할 수 있는 표면을 제공한다. 배포는 더 이상 사람이 수동으로 이어 붙이는 과정이 아니라, agent가 직접 다룰 수 있는 deterministic한 실행 경로가 된다.

agent workload는 전통적인 serverless와 성격이 다르다. long-lived execution, multi-step orchestration, model routing, cost controls, sandboxed code execution, abuse resistance가 함께 필요하다. 자체적으로 이 스택을 운영하면 inference 비용 낭비, provider 장애, untrusted code 위험이 빠르게 누적된다.

이를 위해 Vercel은 여러 AI primitive를 하나의 플랫폼으로 묶는다.

• AI SDK: 프레임워크와 provider를 가로지르는 통합 AI 개발 방식
• AI SDK 6: agent abstraction을 추가해 하나의 agent를 여러 인터페이스와 workflow에서 재사용
• Chat SDK: 여러 chat 앱과 플랫폼으로 agent를 확장
• AI Gateway: 수백 개 모델을 단일 endpoint로 연결하고 budgets, monitoring, routing, retries, fallbacks 제공
• Fluid compute: AI workload의 독특한 latency, concurrency, idle waiting 패턴에 맞춘 실행 환경
• Workflows와 Queues: pause, resume, retry, state 유지, background work 분리
• Sandbox: untrusted code를 위한 격리 실행 환경
• Observability: agent의 행동과 오류 지점을 추적

이 구성의 차이는 단순한 기능 묶음이 아니라 shared context에 있다. code, model calls, runtime behavior를 한 시스템 안에서 함께 보게 되면서 인프라가 생산 환경을 관찰하는 수준을 넘어, 스스로 해석하고 대응하는 방향으로 간다. 기존 인프라는 code가 들어가면 log가 나오고 사람이 그 log를 읽어 고쳤지만, unified platform은 그 사이의 문맥을 모두 가진다.

latency spike나 model provider 장애가 발생하면 플랫폼은 anomaly를 조사하고, observability data와 logs를 확인하고, source code를 살펴 root-cause analysis와 fix review까지 수행한다. 오늘은 human approval이 남아 있지만, 시간이 갈수록 플랫폼이 운영 부담을 더 많이 가져가게 될 전망이다. 클라우드가 사람을 시스템에서 떼어냈다면, 다음 단계는 software가 스스로 쓰고, 배포하고, 고치는 것을 전제로 하는 인프라다.