에이전트 인프라를 직접 구축하는 데 실제로 필요한 것들 (18분 읽기)

웹 에이전트를 프로덕션 수준으로 운영하려면 브라우저 외에도 워밍 풀, 격리, 신원, 관찰 가능성, 모델 게이트웨이 등 5개 레이어가 필요하다.

브라우저 하나를 띄우는 건 쉽다. Chromium과 Playwright는 오픈소스이고, 당일 안에 에이전트가 클릭 플로우를 실행하게 만들 수 있다. 하지만 이것은 프로덕션이 아니다.

수천 개의 세션을 동시에 돌리는 순간, 다섯 가지 인프라 레이어가 필요해진다.

워밍 풀(Warm Pool): 브라우저 콜드 스타트는 수 초의 지연을 만들고, 에이전트 루프 전체를 블로킹한다. 풀 사이징(너무 적으면 큐 대기, 너무 많으면 비용 낭비), 유휴 비율, 교체 주기를 트래픽 패턴에 맞게 동적으로 관리해야 한다.

격리(Isolation): 세션 간 쿠키·스토리지·캐시가 섞이면 보안 사고가 된다. 컨테이너나 VM 수준의 격리가 필요하며, 세션이 끝날 때마다 상태를 완전히 초기화해야 한다.

신원(Identity): 사이트들은 데이터센터 IP와 헤드리스 브라우저 핑거프린트를 차단한다. 주거용 프록시, 실제 브라우저 핑거프린트, 일관된 세션 유지가 필요하다. 이 레이어를 잘못 구축하면 에이전트가 목적지에 도달조차 못한다.

관찰 가능성(Observability): 수만 건 중 하나의 실패한 런을 디버깅하려면 세션 재생, 네트워크 로그, DOM 스냅샷이 필요하다. 표준 APM 툴은 브라우저 내부를 보지 못한다.

모델 게이트웨이(Model Gateway): 에이전트의 모든 결정 뒤에는 LLM 호출이 있다. 프로바이더 장애 시 폴백, 비용 추적, 레이턴시 모니터링을 중앙에서 처리하는 게이트웨이가 없으면 운영이 불가능해진다.

이 다섯 레이어 모두 직접 구축할 수 있지만, 이것은 실제 제품이 아니라 제품을 위한 기반이다. 시니어 엔지니어 팀이 지속적으로 유지보수해야 하는 상시 운영 시스템이며, 이 비용이 자체 구축 vs. 구매 결정의 핵심이다.