해자를 증류하다

AI 기업들은 막대한 GPU 비용과 인건비를 들여 모델을 훈련하며, 이 투자가 경쟁자가 쉽게 따라올 수 없는 '해자(moat)'를 형성한다고 여겨진다. 하지만 LLM은 본질적으로 쿼리에 응답하며 내부 데이터를 일부 노출하는 웹 서비스와 같아, 반복 쿼리로 모델을 복제하는 것이 원리상 가능하다.

이 복제 기법이 바로 업계 표준 기술인 **증류(distillation)**다. Elon Musk는 법정에서 xAI가 OpenAI 모델에 증류 기법을 사용해 Grok을 훈련했다고 인정했으며, Anthropic은 DeepSeek, Moonshot AI, MiniMax 등 중국 AI 기업 3곳이 2만 4천 개 이상의 가짜 계정으로 Claude와 1,600만 건 이상의 대화를 생성해 자사 모델을 개선했다고 고발했다.

증류가 효과적인 이유는 피해 기업이 서비스 비용을 대규모로 보조하기 때문이다. AI 모델은 저작권 보호 대상이 아니고 특허도 불가능하며, 영업비밀로만 보호받는데 이용약관 위반 정도로는 법적 보호가 약하다. AI 기업들이 '크롤링은 불법'이라고 주장하기도 어려운 것이, 그들 스스로 크롤링으로 모델을 만들었기 때문이다.