#sparsity와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Goodfire 연구, 뉴런이 LLM 해석 가능성의 핵심 기반임을 입증했다
AFM3 20B는 프롬프트별로 활성 MLP 계층을 약 20%만 선택하는 MoE 모델이다.