AI Briefing#state-space-models
#state-space-models와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#state-space-models와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Apple 연구진이 Pythia-1B를 Mamba 모델로 증류해 perplexity 14.01을 달성했다.
Weighted state souping이 장문 컨텍스트 작업의 성능을 크게 향상시켰다
AWS가 사전 훈련 비용을 99% 줄이는 하이브리드 SSM 변환 기법 priming을 공개했다.
Tool-use를 붙인 SSM은 길이 한계를 넘어 임의 길이 문제로 일반화한다.