#mixture-of-experts
#mixture-of-experts와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#mixture-of-experts와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
동적 구조적 프루닝을 통해 밀집 LLM을 MoE로 변환하여 성능 저하 없이 활성 파라미터를 줄이는 ToMoE 기법이 공개됐다.
Ornith-1.5가 397B부터 9B까지 다양한 규모의 오픈 모델로 출시되었습니다.
Thinking Machines가 Apache 2.0 라이선스로 첫 자체 개발 모델 Inkling을 공개했다.
Mixture-of-Experts(MoE) 설계를 통해 397B 파라미터 규모의 AI를 아이폰에서 로컬로 구동하는 데 성공했다.
Microsoft가 기업용 작업에 최적화된 고성능 추론 모델 MAI-Thinking-1을 공개했다.
NVIDIA가 AI 에이전트의 저지연 작업을 위해 3B 활성 파라미터를 갖춘 30B MoE 모델 Nemotron 3.5 Lightning을 공개했다.
NVIDIA가 로컬 AI 커뮤니티와 함께 오픈 모델·에이전트 생태계 확장을 추진한다.
NVIDIA가 고효율 에이전트 AI 모델과 지능형 모델 라우팅 라이브러리를 공개했다.
멀티모달 모델은 모달리티를 초기부터 함께 학습할 때 더 효과적으로 발전했다.
Cursor가 NVL72용 오픈소스 MoE 메가커널을 공개하고 처리량을 최대 2.37배 높였다.
WASTE가 64GB MacBook Pro에서 2.78T Kimi K3를 디스크 스트리밍으로 실행했다.