Mistral Small 3.1

Mistral Small 3.1은 기존 Mistral Small 3를 기반으로 텍스트 성능, 멀티모달(multimodal) 이해력, 최대 128k 토큰의 컨텍스트 창을 확장한 모델이다. Gemma 3 및 GPT-4o Mini와 같은 유사 모델보다 뛰어난 성능을 보이며, 초당 150 토큰의 빠른 추론 속도를 제공한다.

이 모델은 Apache 2.0 라이선스로 배포되는 오픈 소스 모델로, 다음과 같은 핵심 기능을 제공한다:

• 경량화: 단일 RTX 4090 또는 32GB RAM을 탑재한 Mac에서 구동 가능하여 온디바이스(on-device) 활용에 적합하다.
• 빠른 응답: 가상 비서 등 실시간 대화형 서비스에 최적화되어 있다.
• 저지연 함수 호출(function calling): 자동화된 워크플로우 및 에이전트 환경에서 신속한 실행이 가능하다.
• 도메인 특화 파인튜닝: 법률, 의료, 기술 지원 등 특정 분야의 전문가 모델로 커스텀할 수 있다.

현재 Hugging Face를 통해 Base 및 Instruct 모델을 다운로드할 수 있으며, Mistral AI API와 Google Cloud Vertex AI를 통해 이용 가능하다. 향후 NVIDIA NIM 및 Microsoft Azure AI Foundry에서도 지원될 예정이다.