Together AI, HF 모델 미세 조정 지원

Together AI와 Hugging Face가 협력하여, Hugging Face Hub에 있는 호환 가능한 모든 LLM을 Together AI의 인프라를 통해 미세 조정(Fine-tuning)할 수 있는 새로운 기능을 발표했다.

사용자는 두 가지 모델을 지정하여 작업을 수행한다:

• Base Model: Together AI의 공식 카탈로그 모델로, GPU 자원 할당, 메모리 최적화, 학습 파이프라인 및 추론 설정을 담당하는 '학습 템플릿' 역할을 한다.
• Custom Model: 사용자가 실제로 미세 조정하고자 하는 Hugging Face의 모델이다.

이 통합 기능은 양방향으로 작동한다. Together AI는 Hugging Face의 공개 모델뿐만 아니라 API 토큰을 통해 비공개 저장소의 모델도 가져와 학습할 수 있다. 학습이 완료된 모델은 hf_output_repo_name 설정을 통해 Hugging Face Hub로 자동 업로드하여 공유하거나 배포할 수 있다.

현재 100B 파라미터 미만의 모든 CausalLM 모델이 이 기능을 사용할 수 있도록 설계되었다. 이를 통해 개발자는 복잡한 학습 인프라 구축 없이도 Hugging Face에서 발견한 최신 모델을 자신의 데이터에 맞춰 빠르게 커스텀하고 프로덕션 환경에 적용할 수 있다.