1부: 데이터도 정답도 없다: 하이퍼커넥트가 LLM을 길들이는 법

Tinder AI-enabled Discovery의 설명 생성 문제는, 정답 데이터가 없는 open-ended generation이라서 단순한 프롬프트 튜닝만으로 해결되지 않았다. 어떤 속성을 강조해야 좋은 설명인지부터 정의해야 했고, 그 기준을 팀이 함께 합의하는 과정이 핵심이었다.

유저 간 공통점, 상반된 취향, 애매한 포함 관계처럼 같은 정보도 해석이 달라질 수 있어, PM과 MLE가 각자 직관에 기대면 정책이 쉽게 흔들린다. 그래서 먼저 PM이 초안을 만들고, 엔지니어가 빠르게 model steering을 시도한 뒤, 둘이 각각 pass/fail로 평가하면서 상세한 critique를 남겼다.

이후 회의에서 엇갈린 사례를 중심으로 왜 좋은지, 왜 나쁜지 논의하고, 합의된 기준을 곧바로 정책 문장에 반영했다. 이 반복을 통해 팀의 decision boundary가 점점 선명해졌고, 정책은 더 짧고 명료해졌으며, LLM이 따라야 할 방향도 안정화됐다.

이 과정이 잘 작동한 이유는 세 가지다.

• 처음부터 완벽한 정책을 만들려 하지 않고, 빠르게 실패하며 현실적인 기준을 찾았기 때문
• 5점 척도보다 pass/fail이 판단 부담을 줄이고 합의를 쉽게 만들었기 때문
• critique를 통해 개인의 직관이 언어화되고, 그 기준이 팀 전체로 공유됐기 때문

정책이 수렴한 뒤에는 상용 LLM 프롬프트만으로는 서빙에 한계가 있어, 정책을 내재화한 작은 모델을 학습하는 단계로 넘어간다. 이후 수천, 수만 개의 출력을 사람이 직접 볼 수 없기 때문에, 다음 단계인 LLM Judge가 필요해진다. 결국 좋은 설명을 만드는 일은, 모델을 잘 만드는 문제가 아니라 팀이 원하는 설명의 기준을 끝까지 합의하고 그 기준을 모델에 일관되게 전달하는 문제다.