AI Briefing#moe
#moe와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#moe와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Step 5 Preview가 600B 파라미터 MoE 아키텍처로 agentic 작업과 금융 분석에서 경쟁력 있는 성능을 선보이며, Artificial Analysis Intelligence Index 44점을 달성했다.
하이퍼네트워크를 통해 실시간 상호작용 데이터를 가중치로 변환하고 베이지안 방식으로 온라인 업데이트하는 '무한 파라미터 LLM' 아키텍처가 제안되었다.
중국텔레콤이 Ascend NPU에서 훈련된 29B MoE 모델 Xing4.0-29B-A4B를 공개했다.
NVIDIA가 JAX용 Transformer Engine을 통해 Dropless MoE 학습에서 GB200 기준 GPU당 1,025 TFLOPs를 달성하며 처리량을 약 10배 개선했다.
Ant Group이 금융 특화 오픈 웨이트 모델 'Ling-3.0-flash-Fin'을 공개했으며, 5.1B의 활성 파라미터로 높은 효율성을 달성했다.
Edge0가 SSD 전문가 스트리밍 기술로 35B MoE 모델을 3GiB 메모리로 실행하는 추론 프레임워크를 공개했다.
DeepSeek이 552B MoE 모델 V4.1-Flash를 공개해 V4-Pro를 대체하고 KV 캐시를 토큰당 890바이트로 최적화했다.
Cohere가 MoE 기반 오픈 웨이트 번역 모델 'North Small Translate'를 공개하며 WMT26 벤치마크에서 독점 모델을 앞섰다.
Sber가 MoE 구조의 GigaChat-3.5-Reasoning을 공개했으며, DeepSeek V4 Flash급 성능을 달성하면서 추론 토큰 사용량을 37% 줄였다.
DeepSeek가 V4-Pro보다 성능과 효율성이 뛰어난 V4.1-Flash를 공개하고 API 가격을 인하했다.
inclusionAI가 1M 토큰 컨텍스트와 MoE 아키텍처를 갖춘 멀티모달 모델 Ling-3.0-flash-VL을 공개했다.
Cohere가 North Mini Code 모델용 Megakernel serving 엔진을 공개해 H100 단일 BF16 환경에서 vLLM 대비 최대 1.41배의 end-to-end 추론 속도 향상을 달성했다.
IFM이 사전 학습부터 에이전트 후처리까지 전체 과정을 공개하는 6종 모델 제품군 K2 Horizon을 오픈소스로 배포했다.
Vercel AI Gateway가 의료 특화 모델 Ling 3.0 Flash Sante를 10월 4일까지 무료로 제공한다.
llama.cpp가 NVIDIA의 하이브리드 MoE 구조를 채택한 Nemotron-3-Puzzle-75B-A9B 모델 실행을 지원한다.
Apple Silicon 특화 추론 엔진 Lily가 MLX-LM 대비 디코딩 속도 35% 향상과 높은 하드웨어 활용률을 달성했다.
텐센트가 770B 파라미터와 1M 컨텍스트를 지원하는 오픈 웨이트 LLM Hy4 Preview를 공개했다.
NVIDIA가 DeepSeek-V4-Pro-0813의 NVFP4 양자화 버전을 공개하며, 총 1.65조 파라미터 중 4천억 파라미터를 활성화하는 MoE 구조를 지원한다.
GLM-5.3 모델이 HF Viewer에서 시각화되었으며, 아키텍처는 GLM-5.2와 동일하지만 학습 개선을 통해 성능이 향상된 것으로 확인됐다.
Qwen3.8-Flash-Next가 1/9의 비용으로 기존 모델 대비 우수한 성능을 입증했다.
PCIe 스트리밍을 활용해 소비자용 GPU에서 대규모 MoE LLM을 실행하는 오픈소스 엔진 LayerStoRm이 공개됐다.
FreeToken이 게이밍 PC 수준 하드웨어에서 프론티어급 MoE 모델을 효율적으로 서빙하는 시스템을 제안했다.
FreeToken이 소비자 하드웨어에서 프런티어 MoE 모델을 인터랙티브 속도로 실행할 수 있는 엣지 네이티브 서빙 엔진을 공개했다.