Codestral

Mistral AI가 처음으로 선보이는 코드 전용 모델인 Codestral을 공개했다. Codestral은 코드 생성 작업에 특화된 22B 규모의 오픈 웨이트(open-weight) 생성형 AI 모델이다.

이 모델은 Python, Java, C, C++, JavaScript, Bash와 같은 대중적인 언어부터 Swift, Fortran 등 특수 언어까지 80개 이상의 프로그래밍 언어를 지원한다. 개발자는 이를 통해 다음과 같은 작업을 수행할 수 있다:

• 코드 함수 완성 및 부분 코드 작성
• 테스트 코드 작성
• Fill-in-the-middle (FIM) 메커니즘을 통한 코드 완성

Codestral은 성능과 지연 시간(latency) 사이의 최적의 균형을 제공하며, 특히 32k의 넓은 컨텍스트 창을 지원한다. 이는 경쟁 모델(4k~16k) 대비 우수한 성능을 보이며, 장기 의존성이 필요한 RepoBench 벤치마크에서 뛰어난 성과를 입증했다.

현재 Codestral은 HuggingFace를 통해 다운로드할 수 있으며, 연구 및 테스트 목적으로 사용 가능한 Mistral AI Non-Production License가 적용된다. 또한, 전용 엔드포인트(codestral.mistral.ai)를 통해서도 이용 가능하다.