대화로 SLM 배포

Distil Labs가 Claude Code skill을 공개해, 대화 한 번으로 생산 trace 정리부터 fine-tuned SLM 배포까지 이어지게 했다.

핵심 흐름은 다음 5단계다.

• traces.jsonl(OpenAI message format), job_description.json, config.yaml 생성
• 저품질 trace 필터링과 committee of teachers 기반 재라벨링
• teacher가 과제를 실제로 풀 수 있는지 먼저 검증
• teacher가 합성 데이터를 만들고 student가 학습
• 성능 비교 후 managed endpoint에 배포하거나 weights를 내려받아 self-host

훈련 비용은 크레딧으로 소모되기 때문에, 비용이 큰 단계마다 승인 체크포인트가 있어 Claude가 멈춰 확인을 받는다.

실제 예시로는 restaurant-reservation agent의 327개 noisy production trace를 정리해 Qwen3-1.7B 기반 multi-turn tool-calling 모델로 미세조정했다.

설치는 distil signup 후 marketplace에 distil-cli-skill을 추가하는 방식이며, 오픈소스 프로젝트는 플랫폼을 무료로 사용할 수 있다.