AI Briefing#mixture-of-experts
#mixture-of-experts와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#mixture-of-experts와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA는 전력 제한 환경에서 AI 인프라의 수익성을 결정짓는 핵심 지표로 와트당 성능을 강조하며 Blackwell 플랫폼의 압도적인 효율성을 제시했다.
총 1.6조 개의 파라미터를 가진 대규모 MoE 구조의 LongCat-2.0 모델이 공개되었습니다.
에이전트 기반 코딩에 최적화된 225B 파라미터 규모의 MoE 모델 Laguna-M.1이 공개되었습니다.
NVIDIA Blackwell 플랫폼이 MLPerf Training 6.0 벤치마크의 모든 카테고리에서 압도적인 성능을 기록하며 AI 학습 인프라의 리더십을 입증했다.
NVIDIA가 Google DeepMind의 새로운 확산 기반 모델 DiffusionGemma를 RTX 및 DGX 시스템에서 최대 4배 빠르게 실행하도록 최적화했다.
Google이 기존 LLM의 순차적 생성 방식에서 벗어나 텍스트 블록을 동시에 생성하는 실험적 모델 DiffusionGemma를 공개했다.
Cohere가 에이전트 기반 소프트웨어 엔지니어링에 최적화된 MoE 모델 North Mini Code를 출시했다.
Nvidia의 MoE 추론 모델 Nemotron 3 Ultra가 Vercel AI Gateway에 출시되어 에이전트 워크플로우 최적화를 지원한다.
JetBrains가 12B 규모의 Mixture-of-Experts(MoE) 모델인 Mellum2를 공개했다.
OpenAI Triton을 활용해 NVIDIA와 AMD 모두 지원하는 고성능 MoE 추론 커널을 개발했다.
Ai2가 EMO를 공개해 MoE의 일부 전문가만으로도 성능을 거의 유지할 수 있음을 보였다.
Mistral AI가 소버린 open-weight 전략으로 기업 시장을 빠르게 넓혀가고 있다.
SpecMD가 MoE expert 캐시 정책을 벤치마크해 Least-Stale를 제안했다.