AI Briefing#model-distillation
#model-distillation와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-distillation와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Domyn이 검증 가능한 보상 기반 GRPO로 학습한 5개 전문 티처 모델을 공개했다.
Meta가 11월 8일부터 일반 사용자에게 Muse Wonder 기반 전문 모델을 배포했다.
NVIDIA 연구팀, 오프라인 롤아웃 기반 Semi-OPD가 온정책 증류보다 17개 중 14개 사례에서 우월함을 입증했다.
Pinterest가 사용자 여정 추론에 4B LLM을 도입하고 기존 클러스터링은 폴백으로 유지하며 이메일 클릭률 1.1% 상승을 기록했다.
ML Intern 에이전트가 약 103달러로 6개 AI 모델을 학습 및 공개했다.
구글 리서치와 UIUC가 RL로 학습한 질의 팬아웃 행동을 53.9M 파라미터 확산 모델로 증류해 검색 지연을 12~20배 단축한 R4T를 공개했다.
Video Rebirth가 MiniMax-H3의 추론 단계를 49에서 8로 줄이는 데이터 프리 자기 증류 LoRA 'HyperFlow'를 오픈소스로 공개했다.
2026년 9월 3주차에는 추론 비용을 줄이기 위한 'Compile by Training', 'R4T', 'Breaking the Token Ceiling' 등 사전 컴파일 및 증류 패러다임의 논문들이 주목받았다.
GigaPath와 GigaTIME의 효율성을 극대화한 Flash 모델이 공개되어 대규모 병리 연구의 접근성을 높였다.
DiffusionGemma가 Gemma 4를 이산 확산 모델로 개조해 H100에서 1,500TPS를 달성했다.
백악관이 중국 AI 기업 Moonshot의 Anthropic Fable 모델 무단 증류를 주장하며 미 재무부가 제재를 검토 중이다.
마이크로소프트 CEO 사티아 나델라가 AI 모델 증류(Distillation)를 둘러싼 업계의 이중 잣대를 비판했습니다.
Gemini tool calling을 2,600만 파라미터로 증류한 Needle이 공개됐다.
OpenAI가 대형 모델의 출력을 활용해 소형 모델을 효율적으로 미세 조정할 수 있는 모델 증류(Model Distillation) 기능을 출시했다.