#huggingface-transformers
#huggingface-transformers와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#huggingface-transformers와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA NeMo AutoModel이 HuggingFace Transformers v5와 결합하여 MoE 모델의 학습 효율을 극대화한다.
동일 모델의 초기 레이어를 활용해 텍스트 생성 속도와 메모리 효율을 높이는 Self-Speculative Decoding 기술을 소개한다.
AWS Inferentia와 Hugging Face Transformers를 사용하여 BERT 모델의 추론 성능을 최적화하고 비용을 절감하는 방법을 안내한다.