Hugging Face의 LLM 서빙 솔루션인 TGI가 AWS Inferentia2 및 Amazon SageMaker에서 정식 지원된다.
HuggingFace가 오픈 소스 모델을 위한 Constitutional AI 구현 방법론과 관련 도구, 데이터셋을 공개했다.
Optimum Intel과 양자화 기술을 통해 Intel Xeon 프로세서에서 StarCoder의 추론 성능을 7배 이상 개선했다.
LLM의 독성, 편향성, 보안성 등을 종합적으로 평가하는 DecodingTrust 기반의 새로운 Safety Leaderboard가 공개되었다.
Hugging Face와 Google Cloud가 오픈 모델 기반의 AI 구축을 지원하기 위해 전략적 파트너십을 체결했다.
IBM Research의 경량 시계열 모델 PatchTSMixer가 HuggingFace Transformers 라이브러리에 통합되었다.
Meta의 Wav2Vec2-BERT를 활용해 데이터가 부족한 언어의 음성 인식(ASR) 성능을 높이는 방법을 다룬다.
ONNX Runtime과 Microsoft Olive를 통해 SD Turbo 및 SDXL Turbo 모델의 추론 성능을 대폭 개선했다.
ComfyUI 워크플로우를 Python으로 변환하여 Gradio 앱으로 만들고, Hugging Face ZeroGPU로 무료 배포하는 방법을 설명한다.
Hugging Face의 새로운 템플릿을 활용해 맞춤형 LLM 리더보드를 구축하는 기술적 방법과 Vectara의 사례를 소개한다.
Unsloth 라이브러리를 통해 LLM 파인튜닝 속도를 최대 2배 높이고 메모리 사용량을 40% 절감할 수 있다.
구글 MUSE를 재현한 비확산(non-diffusion) 방식의 효율적인 텍스트-이미지 생성 모델 aMUSEd가 공개되었습니다.
Hugging Face가 SDXL Dreambooth LoRA 학습 성능을 극대화한 새로운 스크립트를 공개했다.
Mistral AI의 새로운 MoE 모델 Mixtral 8x7b가 공개되었으며, GPT-3.5를 능가하는 성능을 보여준다.
SetFit을 활용해 적은 데이터로도 LLM보다 뛰어난 성능을 내는 속성 기반 감성 분석(ABSA) 프레임워크를 공개했다.
HuggingFace가 베이스 모델을 유지하며 LoRA 어댑터만 동적으로 교체하여 추론 속도를 300% 향상시켰다.
AI Briefing