LangSmith를 활용한 LLM 파인튜닝 가이드

LangChain 팀은 LangSmith를 데이터셋 관리 및 평가 도구로 활용하여 LLM을 파인튜닝하는 방법을 안내하는 가이드를 발표했다. 이 가이드는 CoLab과 HuggingFace를 이용한 오픈소스 LLM 훈련, 그리고 OpenAI의 신규 파인튜닝 서비스를 모두 포괄한다.

테스트 케이스로는 LLaMA2-7b-chat과 gpt-3.5-turbo를 사용하여 지식 그래프 트리플 추출 작업을 수행했다. 학습 데이터는 LangSmith에서 내보낸 것을 사용했으며, 결과 평가 역시 LangSmith를 통해 진행했다.

최근 오픈소스 LLM 생태계가 급성장하여 소비자용 노트북에서도 SOTA에 근접한 성능을 내는 모델이 등장했다. 또한 OpenAI가 최신 모델에 대한 파인튜닝을 지원하면서, 특정 도메인에 최적화된 소형 전문 모델의 가치가 높아지고 있다.