의사들이 실제로 신뢰하는 의료 AI, OpenEvidence는 어떻게 만들었나

OpenEvidence는 미국 의사들의 40% 이상이 사용하는 임상 의사 결정 지원 플랫폼으로, 2026년 1월 한 달간 2,000만 건 이상의 상담을 지원하며 급성장했다. 의료 분야에서는 작은 오류가 치명적인 결과로 이어질 수 있기에, 스타트업의 속도와 병원급의 신뢰성을 동시에 확보하는 것이 핵심 과제였다.

이를 위해 Python과 Google Cloud Platform(GCP) 기반의 백엔드, 그리고 Next.js와 Vercel 기반의 프론트엔드를 결합한 하이브리드 아키텍처를 채택했다. 백엔드는 데이터 수집과 모델 오케스트레이션을 담당하며, 프론트엔드는 Vercel을 통해 자동 배포와 빠른 스케일링을 구현한다.

Vercel 인프라는 OpenEvidence의 성장에 다음과 같은 핵심적인 역할을 했다:

• 신속한 개발 및 배포: 코드 커밋 시 5분 내 배포가 완료되며, 브랜치별 프리뷰 URL을 통해 즉각적인 워크플로우 테스트가 가능하다.
• 무한한 확장성: 트래픽이 급증하는 상황에서도 별도의 인프라 프로비저닝 없이 안정적인 응답 시간을 유지한다.
• 비용 효율성: Fluid compute 도입을 통해 서버리스 비용을 90% 절감하면서도 낮은 지연 시간과 높은 성능을 유지했다.

결과적으로 OpenEvidence는 인프라 관리 부담을 최소화하고 제품 경험에 집중함으로써, 현대적인 사용자 경험과 병원급의 안정성을 모두 갖춘 솔루션을 구축할 수 있었다.