지속 가능한 AI 우위를 확보하기 위한 세 가지 교훈

Intercom은 GPT-3.5 출시 직후부터 실험을 시작해 4개월 만에 AI 에이전트 Fin을 출시했다. 이를 위해 AI 중심의 리플랫폼에 1억 달러를 투자하고 조직을 재편하며 AI-first 전략을 실행했다.

첫째, 조기 실험을 통해 모델에 대한 숙련도를 높였다. GPT-4 출시 시점에 맞춰 즉각적인 대응이 가능하도록 준비했으며, GPT-4.1이 Fin Tasks에서 높은 신뢰도와 낮은 지연 시간을 보임을 확인하고 빠르게 도입했다. 또한 chain-of-thought 프롬프팅을 활용해 성능 격차를 보완했다.

둘째, 엄격한 평가(Evaluation) 프로세스로 속도를 확보했다. 모든 신규 모델은 Realtime API 기반의 Fin Voice나 Fin Tasks에 적용되기 전, 오프라인 테스트와 실시간 A/B 테스트를 거친다. 이러한 체계 덕분에 GPT-4에서 GPT-4.1로의 마이그레이션을 단 며칠 만에 완료할 수 있었다.

셋째, 변화하는 기술 환경에 맞춰 진화할 수 있는 유연한 아키텍처를 설계함으로써 장기적인 기술적 우위를 확보하는 데 집중하고 있다.