inclusionAI, 560B 파라미터 하이브리드 추론 모델 Ling-3.1-flash 공개

inclusionAI가 복잡한 실전 작업을 위해 설계된 하이브리드 추론 모델 Ling-3.1-flash를 공개했다. 이 모델은 560B의 총 파라미터와 토큰당 25B의 활성 파라미터를 갖춘 Hybrid-linear MoE 아키텍처를 적용했으며, 1M 토큰 컨텍스트 윈도우를 지원한다. Ling-3.0-flash의 아키텍처를 개선해 범용 에이전트, 검색, 오피스 생산성, 소프트웨어 엔지니어링 성능을 강화했다.

아키텍처 및 사양

모델 구조는 63 KDA와 9 Gated MLA 레이어가 7:1 비율로 배치되고 4개의 dense 레이어가 포함된다. 주요 사양은 다음과 같다:

• Routed Experts: 512
• Shared Experts: 1
• Activated Experts: 8
• Attention Heads: 64
• Hidden Size: 4096
• Vocabulary Size: 157184

성능 및 벤치마크

Ling-3.1-flash는 헬스케어, 금융, 재료과학 등 다양한 분야에서 성능 향상을 보였다. Terminal-Bench 4.0, SWE-bench Pro, FrontierSWE, GDPVal-AA V2.1, Automationbench, MCP-Atlas, SkillsBench 등 대표적인 코딩 및 에이전트 벤치마크에서 강력한 성능을 입증했다. 또한 Claude Code, Kilo Code, Qwen Code, Hermes Agent, OpenClaw 등 프레임워크와 호환된다.

아울러 inclusionAI는 오픈소스 코딩 에이전트 Pi를 기반으로 한 LingCode를 공개했다. LingCode는 수백 번의 도구 호출과 반복적인 컨텍스트 압축이 필요한 장기 코딩 작업을 지원하도록 강화되어 특정 코딩 에이전트 작업에서 상당한 성능 개선을 달성했다.

배포 및 가용성

모델은 Hugging Face, ModelScope, OpenRouter에서 이용 가능하다. 추론 시 SGLang 사용을 권장하며, MTP(NEXTN) 추측 디코딩과 Hopper 디코드 최적화를 포함한 day-0 지원이 제공된다. H200, GB300, H800, H100, B200 등 하드웨어 구성에 대한 검증된 레시피가 마련됐다. vLLM도 지원되나 최적 성능을 위해 특정 환경 준비와 설정 플래그가 필요하다.