#parameter-efficiency와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Meta Expert가 70-80%의 전문가로 Vanilla MoE 성능을 맞췄다
Parcae는 반복 루프 구조로 770M이 1.3B Transformer급 성능을 노린다.
가중치를 공유하는 루프형 Transformer로 이미지·비디오 생성 효율을 높였다.