AI BriefingHuggingFace Blog 뉴스
HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →LLM 메모리 절감용 8비트 양자화
대규모 언어 모델의 메모리 사용량을 2배 줄이면서 성능을 유지하는 8비트 양자화 기술과 Hugging Face 라이브러리 통합을 설명한다.
Hugging Face, Skops 공개
Hugging Face가 scikit-learn 모델의 허브 호스팅과 문서화를 지원하는 Skops 라이브러리를 출시했다.
Kubernetes 기반 ViT 배포 가이드
TensorFlow Serving과 Kubernetes를 활용해 Vision Transformer 모델을 확장 가능한 환경으로 배포하는 방법을 다룬다.
Hugging Face, Enterprise Hub 공개
Hugging Face가 기업용 보안 및 협업 도구를 통합한 Enterprise Hub를 출시했다.
Nyströmformer: 효율적 근사
Nyström 방법을 활용해 Transformer의 self-attention 복잡도를 $O(n^2)$에서 $O(n)$으로 줄이는 Nyströmformer를 소개한다.
Datasets 오디오·비전 업데이트
Hugging Face Datasets 라이브러리에 오디오 및 이미지 데이터 처리를 위한 새로운 문서와 기능이 추가되었습니다.
TensorFlow XLA로 텍스트 생성 100배 가속
Hugging Face transformers에서 TensorFlow와 XLA를 결합해 텍스트 생성 속도를 최대 100배까지 높일 수 있다.
TF Serving 기반 비전 모델 배포 가이드
Hugging Face의 TensorFlow 비전 모델을 TF Serving으로 배포하는 방법을 설명한다.
DeepSpeed로 대규모 모델 학습 가속화
Hugging Face의 Accelerate 라이브러리를 통해 DeepSpeed ZeRO 기술을 적용하여 대규모 모델 학습 시 메모리 문제를 해결하는 방법을 소개한다.
Transformers ONNX 변환 가이드
Hugging Face Optimum을 활용해 Transformers 모델을 ONNX 형식으로 변환하고 추론 성능을 최적화하는 방법을 설명한다.
Intel-Hugging Face, 모델 가속 협업
Intel과 Hugging Face가 협력하여 Transformer 모델의 하드웨어 가속을 지원하는 Optimum Intel 라이브러리를 공개했다.
Graphcore, IPU용 Transformer 출시
Hugging Face Optimum 라이브러리에 Graphcore IPU에 최적화된 다양한 Transformer 모델이 추가되었다.
Hugging Face, 협업 기능 출시
Hugging Face Hub에 모델, 데이터셋, Space를 위한 Pull Request와 Discussion 기능이 추가되었습니다.
Gradio 3.0 출시: Blocks 도입
Gradio가 프론트엔드 재설계와 커스텀 레이아웃을 위한 Blocks API를 포함한 3.0 버전을 출시했다.
Hugging Face, Optimum 추론 가속화 지원
Hugging Face가 Transformers 모델의 추론 성능을 최적화하는 Optimum 라이브러리의 기능을 업데이트했다.
Hugging Face, 1억 달러 규모 Series C 투자 유치
Hugging Face가 Lux Capital의 주도로 1억 달러 규모의 Series C 투자를 유치했다.