Codestral Embed

Mistral AI가 코드 데이터 검색에 특화된 첫 번째 임베딩 모델인 Codestral Embed를 출시했다. 이 모델은 Voyage Code 3, Cohere Embed v4.0, 그리고 OpenAI의 대형 임베딩 모델보다 뛰어난 성능을 발휘한다.

사용자는 검색 품질과 저장 비용 사이의 균형을 맞추기 위해 다양한 **차원(dimension)**과 **정밀도(precision)**를 선택할 수 있다. 특히 256 차원과 int8 정밀도 조합만으로도 경쟁사 모델을 능가하는 성능을 보여준다. 임베딩 차원은 관련도 순으로 정렬되어 있어, 필요한 차원만큼 앞부분을 선택해 비용과 품질을 유연하게 조절할 수 있다.

주요 활용 사례는 다음과 같다:

• RAG (Retrieval-augmented generation): 코드 완성, 편집, 설명 작업을 위한 효율적인 컨텍스트 검색.
• 의미론적 코드 검색: 자연어 또는 코드 쿼리를 통한 정확한 코드 스니펫 검색.
• 유사도 검색 및 중복 탐지: 기능적으로 유사한 코드 식별 및 라이선스 준수를 위한 복사-붙여넣기 탐지.
• 의미론적 클러스터링 및 코드 분석: 코드의 기능이나 구조에 따른 비지도 학습 그룹화.

Codestral Embed는 API(codestral-embed-2505)를 통해 100만 토큰당 $0.15에 제공되며, Batch API 이용 시 50% 할인이 적용된다. 검색 성능 최적화를 위해 **3,000자 크기의 청크(chunk)**와 1,000자 중첩(overlap) 사용을 권장한다.