엔터프라이즈 환경에서 에이전틱 시스템을 확장하기 위한 Netomi의 교훈

Netomi는 United Airlines와 DraftKings 같은 포춘 500대 기업을 위해 GPT-4.1과 GPT-5.2를 결합한 에이전틱 시스템을 구축한다. GPT-4.1은 저지연 도구 사용(tool use)에, GPT-5.2는 심층적인 다단계 계획(multi-step planning)에 활용하며, 이를 통제된 실행 계층 내에서 운영하여 예측 가능한 결과를 보장한다.

첫 번째 교훈: 이상적인 흐름이 아닌 실제 세계의 복잡성에 대비하라 기업의 요청은 단일 API로 해결되지 않으며, 예약 엔진, CRM, 결제 시스템 등 다양한 소스를 넘나드는 복잡한 워크플로우를 가진다. Netomi는 Agentic OS를 통해 다음과 같은 패턴을 구현하여 모호한 상황에 대응한다.

• Persistence reminders: GPT-5.2가 긴 워크플로우 전반에서 추론을 유지하도록 지원
• Explicit tool-use expectations: GPT-4.1이 환각(hallucination) 없이 권위 있는 정보를 위해 도구를 호출하도록 유도
• Structured planning: GPT-5.2의 추론 능력을 활용한 다단계 작업 설계 및 실행
• Agent-driven rich media decisions: 멀티모달 요소(이미지, 비디오 등) 반환 시점 결정

두 번째 교훈: 엔터프라이즈의 지연 시간 요구사항을 충족하기 위해 모든 것을 병렬화하라 사용자는 지연 시간에 매우 민감하다. Netomi는 기존의 순차적 실행 방식(분류 → 검색 → 검증 → 도구 호출 → 생성) 대신, GPT-4.1의 저지연 스트리밍과 안정적인 도구 호출 기능을 활용한 병렬 처리(concurrency) 아키텍처를 설계했다.

이러한 설계는 급격한 트래픽 증가 시에도 빛을 발한다. DraftKings는 대규모 스포츠 이벤트 시 초당 4만 건 이상의 동시 요청이 발생하지만, Netomi 플랫폼을 통해 98%의 의도 분류 정확도와 3초 미만의 응답 시간을 유지하며 시스템의 신뢰성을 입증했다.