Mistral Large 4, 1T MoE 모델로 1M 컨텍스트 및 82% 보안 점수 달성
Welcome Le Chonk: Mistral Large 4 on Hugging Face
·2026.10.29 09:00
핵심 내용
Mistral Large 4가 1M 컨텍스트와 82% 사이버 보안 점수를 기록하며 공개됐다
자세히 보기
- Mistral Large 4 (Le Chonk)는 총 1T, 활성 49B 파라미터를 갖춘 멀티모달 MoE 모델로, 2026년 10월 29일 Hugging Face에 공개됨
- Artificial Analysis Cyber Index에서 82%를 기록해 해당 카테고리 최고 점수를 달성하고, 오픈웨이트 모델 중 Artificial Analysis Intelligence 인덱스 5위를 차지함
- 72개 레이어, MLA(Multi-head Latent Attention), DSA(DeepSeek Sparse Attention) 아키텍처를 채택해 1M 토큰 컨텍스트 윈도우를 지원함
- transformers, vLLM, llama.cpp를 통한 Day-0 추론 지원이 가능하며, 공식 FP8 및 NVFP4 변형과 Unsloth 및 llama.cpp 팀이 제공한 GGUF 양자화 버전이 제공됨
성능 및 벤치마크
- Coding Agent Index 점수 49.8%로 DeepSeek V4 Pro 0813과 Qwen3.8 Max를 상회함
- Cybench의 40개 보안 콘테스트 문제 중 93%를 해결하고, Lakera B3 벤치마크에서 프롬프트 인젝션에 대한 93.3% 저항력을 보임
- DeepSWE v1.1 점수 61.7%, SWE-Atlas-QnA 점수 59.4% 기록
배포 및 하드웨어
- 8개 NVIDIA H200 GPU 환경의 Inference Endpoints에서 단일 요청 시 초당 약 65 토큰, 1,000개 동시 대화 부하 시 총 초당 약 480 토큰 생성 속도 달성
- 단일 M3 Ultra에서 Q2_K 양자화 적용 시 프리필 초당 약 90 토큰, 생성 초당 15 토큰 속도 기록
- vLLM 배포 환경에서 NVIDIA Blackwell GPU의 NVFP4 체크포인트를 지원하며, DSpark drafter를 활용해 속도 향상을 구현함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.