AI BriefingHuggingFace Blog 뉴스
HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Hugging Face, 최적화 툴킷 Optimum 출시
Hugging Face가 트랜스포머 모델의 하드웨어별 성능 최적화를 지원하는 오픈소스 라이브러리 Optimum을 공개했다.
HF-Graphcore IPU 최적화
Hugging Face와 Graphcore가 IPU에 최적화된 Transformer 모델을 제공하기 위해 파트너십을 체결했다.
DeDLOC: 인터넷 기반 협업 분산 학습
인터넷의 느린 네트워크 환경에서도 여러 사용자의 자원을 활용해 언어 모델을 학습시키는 DeDLOC 알고리즘이 공개되었다.
Hugging Face, spaCy 모델 통합 지원
Hugging Face Hub에서 spaCy NLP 파이프라인을 공유, 설치 및 추론 API로 사용할 수 있게 되었다.
SageMaker-Hugging Face 배포
Hugging Face와 Amazon SageMaker의 협업으로 트랜스포머 모델을 손쉽게 배포할 수 있는 새로운 추론 솔루션이 공개되었다.
Sentence Transformers Hub 지원
Hugging Face Hub가 Sentence Transformers를 지원하며 임베딩 모델 공유 및 추론 기능을 제공한다.
BERT CPU 추론 최적화 및 스케일링 가이드
현대적 CPU 환경에서 BERT 모델의 추론 성능을 극대화하기 위한 최적화 전략과 벤치마킹 방법론을 설명한다.
Transformers와 SageMaker를 이용한 분산 학습
Hugging Face와 Amazon SageMaker의 협업을 통해 Transformers 모델의 분산 학습을 최적화한다.
Hugging Face-Amazon SageMaker 파트너십 체결
Hugging Face와 Amazon이 전략적 파트너십을 통해 SageMaker용 최적화된 딥러닝 컨테이너를 출시했다.
Hugging Face RAG, Ray 통합으로 검색 속도 2배 향상
Hugging Face Transformers의 RAG 모델에 Ray를 통합하여 문서 검색 속도와 미세 조정 확장성을 개선했다.
Hugging Face, TensorFlow 모델 성능 개선
Hugging Face Transformers의 TensorFlow 모델 성능이 개선되어 Google 구현체 대비 최대 10% 빨라졌다.
DeepSpeed 및 FairScale 통합 지원
Hugging Face Trainer에서 DeepSpeed와 FairScale의 ZeRO 기능을 통해 대규모 모델 학습 효율을 높이는 방법을 설명한다.
Hugging Face, 추론 속도 100배 가속화 기술 공개
Hugging Face가 라이브러리 최적화와 하드웨어 맞춤형 컴파일을 통해 Transformer 추론 속도를 100배 향상시킨 기술적 접근법을 공개했다.
Encoder-Decoder Warm-starting 기법
사전 학습된 BERT나 GPT2를 활용해 Encoder-Decoder 모델의 학습 비용을 절감하는 Warm-starting 기법을 소개한다.
Hugging Face와 Ray Tune 통합 지원
Hugging Face Transformers 라이브러리에 Ray Tune이 통합되어 고도화된 하이퍼파라미터 최적화가 가능해졌다.
Hugging Face, Block Sparse 라이브러리 공개
Hugging Face가 모델 크기를 줄이고 속도를 높이는 pytorch_block_sparse 라이브러리를 출시했다.
Reformer: 50만 토큰 처리 트랜스포머
Reformer는 LSH 어텐션 등을 활용해 메모리 사용량을 최소화하며 최대 50만 토큰의 긴 시퀀스를 처리한다.