Cohere, 에이전트용 코딩 모델 North Mini Code 공개

Cohere가 개발자 및 에이전트 워크플로우를 위해 설계된 North Mini Code를 Apache 2.0 라이선스로 공개했습니다. 이 모델은 30B 파라미터의 Mixture-of-Experts(MoE) 구조를 채택하고 있으며, 추론 시에는 3B개의 활성 파라미터만 사용하여 효율성을 극대화했습니다.

주요 특징 및 성능:

• 에이전트 최적화: 터미널 기반 작업 및 복잡한 소프트웨어 엔지니어링 워크플로우에 특화되어 설계되었습니다.
• 압도적인 벤치마크 성능: Artificial Analysis의 Coding Index에서 33.4점을 기록하며, Qwen3.5(35B-A3B) 및 Gemma 4(26B-A4B) 등 동급 오픈소스 모델을 상회하는 성능을 보여줍니다.
• 아키텍처: Sliding-window attention과 Global attention을 3:1 비율로 교차 사용하는 효율적인 Transformer 디코더 구조를 사용합니다.
• 고도화된 학습 파이프라인: 2단계의 SFT(Supervised Fine-Tuning)와 검증 가능한 보상을 활용한 RLVR(Reinforcement Learning with Verifiable Rewards) 과정을 통해 코드 실행 가능성과 정확도를 높였습니다.