a16z, Claudeforce 이후 버티컬 AI 스타트업의 승부처는 '학습 루프'와 '데이터 자산'

Salesforce와 Anthropic의 Claudeforce 파트너십 발표로 시스템 오브 레코드(Incumbent System of Record)의 중요성이 재조명되고 있다. 기존 기업들은 AI를 통해 데이터 접근을 통제하고 자체 에이전트를 구축하며, 단순 정보 저장을 넘어 실제 업무 수행(Action)으로 영역을 확장하고 있다. 그러나 Claude나 Codex 같은 범용 에이전트와 기존 시스템의 조합만으로는 복잡한 업무를 완전히 해결하기 어렵다.

범용 에이전트의 한계와 버티컬 스타트업의 기회

범용 에이전트는 여러 시스템에 접근할 수 있지만, MCP 사용 시 발생하는 지연(Latency)과 애플리케이션 간 데이터 불일치 문제로 인해 업무 수행 능력에 한계가 있다. 또한 외부 당사자(예: 구매자와 공급자)가 보유한 정보에는 자동으로 접근하지 못한다. 반면 버티컬 AI 네이티브 스타트업은 특정 업무에 집중하여 더 깊은 접근성, 의도된 데이터 자산, 구체적인 컨텍스트를 확보할 수 있다.

학습 루프(Learning Loop)의 중요성

스타트업의 핵심 경쟁력은 학습 루프에 있다. 완료된 기록(Record)만으로는 업무의 트레이닝 커리큘럼으로 충분하지 않으며, 서명된 계약이나 닫힌 티켓은 최종 결과만 보여줄 뿐 고려된 대안이나 예외 이유는 포함하지 않는다. 스타트업은 전문가의 피드백과 결과를 활용해 다음 시도를 개선하는 학습 루프를 통해 모델 성능을 높여야 한다.

Harvey의 사례와 시장 평가 기준

법률 AI 스타트업 Harvey는 고객 데이터를 사용하지 않고 합성 데이터와 전문가 생성 데이터를 활용해 오픈 웨이트 모델을 후처리(Post-train)했다. 약 1,750개의 법률 작업 환경을 생성하여 모델 훈련 및 평가용 커리큘럼을 제조(Manufacture)함으로써, 수년간의 고객 히스토리 축적 없이도 높은 정확도를 달성했다.

a16z는 좋은 버티컬 AI 시장을 평가하는 4가지 축을 제시했다:

• 전문가가 AI의 정확성을 빠르게 판단하고 개선 방법을 설명할 수 있는가?
• 단순 규칙이 아닌 판단(Judgment)이 중요할 정도로 업무가 어려운가?
• 제품이 학습하기에 충분한 빈도로 작업이 발생하는가?
• 스타트업이 하나의 과제로 시작하여 전체 작업을 수행하는 것으로 확장할 수 있는가?

결국 기존 기업이 레코드를 소유하고 랩(Lab)이 프론트 도어를 통제하더라도, 버티컬 AI 회사는 업무 자체를 가장 잘 수행함으로써 승리할 수 있다.