모델 학습을 직접 수행할 것인가: 애플리케이션 기업을 위한 포스트 트레이닝의 득과 실

AI 애플리케이션 기업들이 모델 레이어로 통합되는 '풀스택' 전략을 취하면서, 모델을 직접 학습할지 여부가 중요한 화두로 떠오르고 있다. 대부분의 기업은 처음부터 모델을 만드는 프리 트레이닝(Pre-training) 대신, 강력한 오픈 웨이트(Open-weights) 모델을 기반으로 한 **포스트 트레이닝(Post-training)**과 **RL(강화 학습)**에 집중하고 있다.

학습의 스펙트럼은 다음과 같이 구분된다:

• 프롬프트 엔지니어링 및 RAG (학습 없음)
• 소형 모델 파인튜닝(Fine-tuning)
• 오픈 웨이트 모델 기반의 SFT(지도 미세 조정) 및 RL
• 지속적 프리 트레이닝(Continued pre-training)
• 처음부터 시작하는 프리 트레이닝(Pre-training)

포스트 트레이닝을 도입해야 하는 주요 이유는 다음과 같다:

1. 유닛 이코노믹스 및 지연 시간(Latency) 개선 규모가 커질수록 API 호출 비용이 부담된다. 특정 작업에 특화된 소형 모델은 프론티어 모델보다 훨씬 저렴하고 빠르게 응답할 수 있다. 예를 들어, Intercom의 Fin Apex 1.0은 프론티어 모델 대비 비용을 약 1/5 수준으로 낮추면서도 응답 속도를 0.6초 단축했다.

2. 의존성 탈피 및 통제권 확보 특정 프론티어 API에만 의존할 경우 가격 변동, 속도 제한(Rate limits), 그리고 API 제공업체가 직접 경쟁자로 등장하는 리스크에 노출된다. Cursor의 경우, 높은 사용량에도 불구하고 낮은 매출 총이익률을 기록하거나 API 제공사의 정책 변화에 취약해질 수 있는 리스크를 안고 있다.