Command A Plus

Cohere가 **Command A+**를 오픈소스로 공개했다. Apache 2.0 라이선스 하에 배포되는 이 모델은 mixture-of-experts(MoE) 아키텍처를 채택해 총 218B 파라미터 중 25B만 활성화하며, 에이전틱 작업에 최적화된 효율적인 LLM이다.

주요 사양 및 기능:

• 컨텍스트: 128K 입력, 64K 생성
• 모달리티: 텍스트, 이미지, 도구 사용 지원
• 언어: 48개 언어 지원 (기존 23개에서 확대)
• 추론 기능: 멀티모달 추론, RAG, 다국어 문서 처리
• 하드웨어: W4A4 양자화 시 B200 1대 또는 H100 2대로 구동 가능

성능 향상:

Command A+는 이전 Command A 시리즈 모델들(Command A, Command A Reasoning, Command A Vision, Command A Translate)의 기능을 단일 모델로 통합하면서 모든 영역에서 성능을 개선했다.

• 에이전틱 작업: τ²-Bench Telecom 37%→85%, Terminal-Bench Hard 3%→25%
• 멀티모달: MMMU 75.1%, MMMU Pro 63%, MathVista 73.5%→80.6%, CharXiv 46.9%→52.7%
• North 통합 평가: 에이전틱 QA 20% 향상, 스프레드시트 분석 32% 향상, 메모리 활용 39%→54%
• 다국어: 기계 번역 및 다국어 추론에서 개선, 언어 지원 23개→48개로 확대

효율성:

MoE 구조로 동일 양자화 및 동시성 수준에서 Command A Reasoning 대비 Output Tokens per Second(TOPS) 63% 증가, Time To First Token(TTFT) 17% 감소를 달성했다. W4A4 양자화는 추가로 47% 속도 향상과 13% 지연 감소를 제공하며, 품질 저하는 거의 없다.

모델은 Hugging Face에서 BF16, FP8, W4A4 양자화 버전으로 제공되며, vLLM과 Transformers 프레임워크를 지원한다. Cohere의 Model Vault에서 관리형 추론 환경으로도 배포 가능하다.

Artificial Analysis Intelligence Index에서 37점을 기록하며 주요 오픈 모델들을 능가하는 범용 엔터프라이즈 에이전틱 워크플로우 성능을 보여줬다.