StarCoder2-15B-Instruct 공개

HuggingFace BigCode 팀이 StarCoder2-15B-Instruct-v0.1을 공개했다. 이 모델은 인간의 주석이나 GPT-4와 같은 유료 LLM의 데이터 증류(distillation) 없이, 모델 스스로 학습 데이터를 생성하는 셀프 얼라이먼트(Self-alignment) 방식을 적용한 최초의 완전 투명한 코드 LLM이다.

주요 성과 및 특징

• HumanEval 점수 72.6을 달성하여 CodeLlama-70B-Instruct(72.0)를 앞질렀다.
• LiveCodeBench 테스트 결과, GPT-4 데이터를 활용한 모델보다 우수한 성능을 보였다. 이는 모델이 교사 모델의 데이터보다 자신의 데이터 분포 내에서 더 효과적으로 학습할 수 있음을 시사한다.

데이터 생성 파이프라인

1. The Stack v1에서 고품질의 다양한 시드 함수를 추출한다.
2. 코드 개념을 포함하는 현실적인 지시문을 생성한다.
3. **실행 가이드 기반의 셀프 검증(execution-guided self-validation)**을 통해 고품질 응답을 생성하여 모델을 미세 조정한다.