Thomson, 지속적 학습으로 프런티어 성능 달성

Tri-Fair Lab은 소수 대기업에 집중된 AI 개발 역량을 다양한 기관이 독립적으로 구축할 수 있는 SovereignAI 실현을 위해 Thomson 모델을 공개했다.

기존의 제한적인 파인튜닝이나 프롬프트 엔지니어링 대신, 지속적 학습(Continual Learning) 방식을 적용했다. 이 방법은 최신 미드/포스트 트레이닝 스택의 효과를 활용하되, 학습 단계마다 가소성(plasticity)과 안정성(stability)을 보존하는 안전장치를 도입하여 파라미터에 최소한의 고영향 개입만 가하는 것이 특징이다.

그 결과, 여러 세대의 모델 업데이트에서 볼 수 있는 수준의 성능 향상을 달성했으며, 이는 기존보다 훨씬 낮은 컴퓨트 및 인력 예산으로 가능하다고 밝혔다. Thomson은 고위험 전문 업무 도메인에 초점을 맞춰 훈련된 범용 프런티어 모델로, 최근 프런티어 모델들과 경쟁력 있는 성능을 보인다.