AI Briefing#knowledge-distillation
#knowledge-distillation와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#knowledge-distillation와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
30B 모델 용량을 10GB로 줄이고 벤치마크 점수 89.4%를 복원해 24GB 맥북 구동이 가능해졌다.
AWS와 Booking.com이 Medusa와 증류로 LLM 비용을 3분의 1로 줄이고 속도를 20배 높였다
Kanana-2-vision-encoder가 9개 영역 중 8개에서 글로벌 최고 점수를 기록했다.
Datadog이 GLM-5.3의 조사 트레이스로 Qwen3.5-9B를 파인튜닝해 조사 비용을 1/20로 줄이고 성능을 87% 수준으로 유지했습니다.
에이전트 하네스 증류로 작업 성공률 23.3%에서 44.3%로 향상시키는 등 7편의 최신 AI 연구 결과를 소개했다.
Chunked KL loss가 32K 컨텍스트에서 Knowledge Distillation 메모리를 약 85GB에서 5GB로 줄였다.
Anthropic은 오픈 웨이트 모델 금지가 국가 안보 위협을 해결할 수 없으며, 칩 수출 규제와 지식 증류 방지가 더 효과적이라고 주장했다.
젠슨 황 Nvidia CEO가 지식 증류를 AI 발전의 필수 요소로 정의하며 오픈 소스 모델의 중요성을 강조했다.
LLM이 자신의 출력만으로 검증기나 별도 학습 없이 코드 생성 능력을 크게 향상시킬 수 있다.
프록시 모델을 활용해 GPT-4와 같은 블랙박스 LLM의 지식을 효율적으로 전수하는 Proxy-KD 방법론을 제안함.
Moebius는 LλMI 블록과 적응형 증류 전략을 통해 파라미터 수를 2% 미만으로 줄이면서도 대규모 모델에 필적하는 성능을 내는 경량 인페인팅 프레임워크다.
LLM이 단기 기억을 장기 지식으로 통합하고 스스로 성능을 개선하는 'Sleep' 학습 패러다임을 제안한다.
LiteFrame은 Video LLM의 추론 지연을 35% 단축하고 장시간 영상 이해를 가능하게 하는 경량 비전 인코더다.
LLM과 지식 증류를 활용해 리뷰의 진정성을 수치화함으로써 별점 인플레이션 문제를 해결하고 추천의 변별력을 높였다.
Amazon이 TV·영화 대사를 키우고 배경음을 낮추는 on-device AI를 공개했다.
컬리가 Knowledge Distillation을 적용한 Collaborative Embedding 모델을 도입해 세일 지면에서 ARPU 약 140% 증가를 달성했다.
Segmind가 지식 증류 기술을 통해 파라미터를 줄인 경량 Stable Diffusion 모델인 SD-Small과 SD-Tiny를 공개했다.
torchserve thread 설정과 ipex pinning으로 CPU serving 성능을 4배 끌어올렸다.