AI Briefing#moe
#moe와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#moe와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
활성 파라미터 2.45B로 노트북 실행 가능, 도구 호출 성능은 Qwen3.6 대비 우위
Meta가 816B 파라미터의 오픈 웨이트 멀티모달 MoE 모델 Muse Spark Open을 공개했다.
OpenBMB가 3GB 메모리로 스마트폰에서 실행되는 35B MoE 멀티모달 모델 MiniCPM-V 4.7을 공개했다.
NVIDIA가 2비트 양자화로 24GB에 담은 MoE 모델 Nemotron Bolt 3.5 74B A9B를 10월 15일 출시한다.
Liquid AI가 온디바이스 에이전트용 LFM2.5-24B-A2B를 공개했다.
Janas-LLM이 32GB RAM 노트북에서 48.4GB MoE 모델 생성 속도 24 tok/s를 달성했다.
Liquid AI가 온디바이스 에이전트용 MoE 모델 LFM2.5-24B-A2B를 공개했다.
OpenBMB가 iPhone 17 Pro Max에서 13+ tokens/s 속도를 내는 MoE 비전 모델 MiniCPM-V 4.7을 출시했다.
Stepped MoE 프레임워크가 1~4B 파라미터를 동적으로 지원하며 벤치마크에서 2~5% 성능을 개선했다.
10월 중 Apache 2.0 가중치 공개 예정이며, 추론 연산 효율을 강조하는 희소 MoE 구조다.
Reflection AI가 501B 파라미터 오픈 웨이트 MoE 모델 Beam을 공개했다.
총 35B 파라미터 중 3B만 활성화하는 MoE 구조로 AA Index 24.1점 기록
Aleph Alpha가 100만 토큰 컨텍스트를 지원하는 오픈 웨이트 MoE 모델 Kolibri를 공개했다.
AlephAlpha가 주권 AI용 오픈소스 MoE 모델 Kolibri를 공개했다.
IQuestLab이 총 320B 파라미터, 토큰당 15B 활성화되는 MoE 모델 IQuest-Q1을 공개했다.
vllm-xtu-moe가 CPU-GPU 융합 실행으로 2×A100에서 748B MoE 추론을 지원한다.
Cyber-OSINT 모델이 26B 파라미터와 262K 컨텍스트 윈도우를 탑재해 공개됐다.
StepFun이 Kimi K3와 동급 지능을 1/3 비용으로 제공하는 Step 5 Preview를 공개하고 10월 15일 가중치를 오픈한다.
카카오가 GDCN과 MoE를 결합한 개인화 랭킹 모델을 도입해 유효재생률을 20% 개선했다.
샤오미가 공개한 MiMo-V2.6-Pro는 유사 크기 오픈 웨이트 모델 대비 높은 지능 점수를 기록했으며, 경쟁력 있는 가격을 갖췄으나 출력 속도는 평균보다 느린 것으로 나타났다.
장문 컨텍스트나 대형 배치 크기로 MoE 학습 시 발생하는 4가지 주요 메모리 피크를 고정된 GPU 워킹셋 내에서 관리하는 스케줄링 기술이 공개됐다.
샤오미가 코딩과 멀티모달을 지원하는 MiMo V2.6 모델 3종을 AI Gateway에 출시했다.