#memory-efficiency
#memory-efficiency와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#memory-efficiency와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
아임웹이 Valkey 9.1 업그레이드 후 전체 CPU 사용량을 86.6% 줄였다.
새 옵티마이저 SkewAdam이 MoE 훈련 시 옵티마이저 상태 메모리를 50.6GB에서 1.29GB로 줄여 40GB GPU 한 장으로 6.78B MoE 학습을 가능하게 했다.
ax-grep이 브라우저 접근성 트리 재현 방식으로 에이전트 웹 검색 토큰 사용량을 3배 개선하고 메모리 사용을 15배 줄였다.
네트워크를 블록 단위로 나누어 독립적으로 학습함으로써 메모리 사용량을 획기적으로 줄이는 새로운 방식을 제안했다.
Reformer는 LSH 어텐션 등을 활용해 메모리 사용량을 최소화하며 최대 50만 토큰의 긴 시퀀스를 처리한다.