충분히 거대한

Mistral AI가 비용 효율성, 속도, 성능의 경계를 넓히는 차세대 모델 Mistral Large 2를 공개했다.

이 모델은 128k 컨텍스트 윈도우를 지원하며, 한국어를 포함한 수십 개의 언어와 80개 이상의 프로그래밍 언어를 지원한다. 1,230억 개(123B)의 파라미터 규모로 설계되어 단일 노드에서 높은 처리량으로 추론이 가능하다.

주요 특징은 다음과 같다:

• 성능 및 효율성: MMLU에서 84.0%의 정확도를 기록하며, 뛰어난 성능 대비 비용 효율성을 제공한다.
• 코드 및 추론: 대규모 코드 데이터를 학습하여 GPT-4o, Claude 3 Opus, Llama 3 405B와 대등한 수준의 성능을 보여준다.
• 신뢰성 향상: 환각(Hallucination) 현상을 최소화하고, 정보가 부족할 경우 이를 스스로 인지하도록 훈련되어 수학적 추론 능력이 강화되었다.

라이선스의 경우, 연구 및 비상업적 용도로는 Mistral Research License가 적용되나, 상업적 목적의 자체 배포를 위해서는 별도의 상업 라이선스를 취득해야 한다.