fine-tuning API 개선 및 custom models 프로그램 확대

OpenAI는 개발자가 모델 성능을 높이고 비용과 지연 시간을 줄일 수 있도록 fine-tuning API의 새로운 기능들을 출시했다. 이번 업데이트는 개발자에게 더 많은 제어권을 제공하며, custom models 프로그램을 통해 전문가와 협력하여 모델을 구축하는 방식도 확장한다.

새롭게 도입된 fine-tuning API 기능은 다음과 같다:

• Epoch-based Checkpoint Creation: 학습 에포크마다 체크포인트를 자동 생성하여 과적합 방지 및 재학습 필요성 감소
• Comparative Playground: 여러 모델이나 스냅샷의 결과물을 한눈에 비교할 수 있는 UI 제공
• Third-party Integration: Weights and Biases 등 외부 플랫폼과의 연동 지원
• Comprehensive Validation Metrics: 전체 검증 데이터셋에 대한 손실(loss) 및 정확도 측정 기능
• Hyperparameter Configuration: 대시보드에서 직접 하이퍼파라미터 설정 가능

또한, OpenAI는 Assisted Fine-Tuning 서비스를 통해 Custom Model 프로그램을 확장한다. 이는 OpenAI 연구진과 협력하여 PEFT(Parameter Efficient Fine-Tuning) 등 고급 기술을 활용해 특정 도메인에 최적화된 모델을 만드는 과정이다.

실제 사례로, 채용 플랫폼 Indeed는 GPT-3.5 Turbo를 fine-tuning하여 프롬프트 토큰 수를 80% 줄였으며, 이를 통해 월간 메시지 처리량을 2,000만 건 수준으로 확장했다. 한국의 SK Telecom 또한 통신 도메인 전문가 모델을 구축하기 위해 OpenAI와 협력하고 있다.