AI Briefing#transformer
#transformer와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#transformer와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Hugging Face Transformers 라이브러리에 Ray Tune이 통합되어 고도화된 하이퍼파라미터 최적화가 가능해졌다.
Reformer는 LSH 어텐션 등을 활용해 메모리 사용량을 최소화하며 최대 50만 토큰의 긴 시퀀스를 처리한다.