Latitude 사례 연구

Latitude는 해커톤에서 출발한 Dungeons and Dragons 플러그인으로 시작해, 첫 주 약 10만 명, 첫 달 100만 명까지 빠르게 성장했다. 이후 AI Dungeon으로 자리 잡으며, 플레이어 선택에 따라 매번 다른 서사를 생성하는 LLM 기반 게임 경험을 만들었다.

초기에는 GPT-3 위에서 성과를 냈지만, 더 풍부한 텍스트와 더 유연한 상호작용을 위해서는 다른 파트너가 필요했다. 그러나 OpenAI의 비폭력 정책은 퀘스트, 검, 전투 같은 핵심 요소를 제약했고, Latitude가 원하는 역할놀이형 경험과 충돌했다.

핵심 과제는 두 가지였다.

• 창작 제약: 전투와 무기 요소를 둘 수 없어 게임성이 떨어졌다.
• 비용 압박: 수천 명의 일일 이용자를 대상으로 운영하려면 모델 비용과 지연시간을 동시에 낮춰야 했다.

Latitude는 AI21 Labs와 함께 Jurassic-1 프로토타입을 시험했고, 빠른 피드백 루프와 반복 실험을 거쳐 프로덕션 단계에 올렸다. 이후 모델은 Jurassic-1 Jumbo(178B) 에서 Grande(17B) 로 내려갔고, 그 결과 비용과 응답 속도, 품질 사이에서 더 나은 균형점을 찾았다. Hydra 앙상블 방식은 여러 응답 중 최적안을 고르게 해 품질을 더 끌어올렸다.

최종적으로 Grande는 GPT-J나 GPT-3 Curie 같은 더 작은 모델보다 나은 결과를 냈고, 낮아진 비용 덕분에 Latitude는 새로운 데이터셋 실험과 출력 품질 개선을 더 자주 시도할 수 있게 됐다. 이 사례는 AI 게임 서비스가 단순한 모델 제공이 아니라, 정책·지연시간·비용까지 함께 조율하는 파트너십을 필요로 한다는 점을 보여준다.