청사진: Voicify가 AI 기반 주문을 고객에게 즐거운 경험으로 만드는 방법

Voicify는 2018년 설립 이후 음성 기반 AI 어시스턴트를 구축해왔으며, 팬데믹을 계기로 레스토랑과 의료 분야의 전화 응대 자동화에 집중했다. 레스토랑은 최대 20%의 전화를 놓쳐 주문 손실이 발생했고, 의료 기관은 100% 정확도가 요구되는 예약 처리에 어려움을 겪고 있었다.

핵심 과제는 네 가지였다: 포스(POS) 시스템과의 트랜잭션 정밀도, 급격한 트래픽 급증 대응, 낮은 응답 지연(latency), 그리고 HIPAA·SOC2·ISO27001·PCI 등 보안 및 컴플라이언스 준수.

해결책으로 Gemini Flash를 Gemini Enterprise Agent Platform(Vertex AI)을 통해 서빙하는 구조를 채택했다. 이를 통해 응답 지연이 줄었고, 기존 LLM 대비 25~30% 비용 절감과 더 높은 안정성을 확보했다. Google AI Studio에서 Vertex AI로 전환한 것은 엔터프라이즈 수준의 보안 보장과 스케일링 때문이었다.

추수감사절 전날 역대 최고 트래픽을 기록했을 때도 프로비저닝 처리량 + 프리미엄 종량제 조합으로 속도 제한 없이 서비스를 유지했다. Gemini 도입 후 메뉴 구성 및 컨텍스트 처리를 위한 자체 개발 도구의 부담이 줄고, 전반적인 성능과 안정성이 향상됐다.