프랑스, Luciole-23B 다국어 LLM 공개

OpenLLM-France 컨소시엄과 LINAGORA가 개발한 Luciole-23B-Instruct-1.1은 BPI France와 France 2030 프로그램으로 지원받은 다국어 오픈소스 대형 언어 모델이다.

모델 규모: 23B(메인), 8B, 1B 세 가지 크기로 제공되며, Apache 2.0 라이선스로 배포된다.

훈련 방식: Jean Zay 프랑스 슈퍼컴퓨터에서 세 단계로 진행됐다. (1) 사고 흔적이 포함된 지시문 데이터로 감독학습, (2) 사고 흔적 없는 지시문 데이터로 감독학습, (3) Direct Preference Optimization(DPO) 기반 선호도 정렬.

훈련 범위: 수학, 과학, 코딩, 일반 채팅, RAG(Retrieval-Augmented Generation), 번역 분야를 포함한다.

공개 위치: HuggingFace에서 공개되며, Luciole-23B-Base를 기반으로 한다.