HuggingFace Blog 뉴스
HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →TGI, AWS Inferentia2 지원
Hugging Face의 LLM 서빙 솔루션인 TGI가 AWS Inferentia2 및 Amazon SageMaker에서 정식 지원된다.
HuggingFace, 오픈 LLM용 CAI 레시피 공개
HuggingFace가 오픈 소스 모델을 위한 Constitutional AI 구현 방법론과 관련 도구, 데이터셋을 공개했다.
Intel Xeon에서 StarCoder 추론 7배 가속
Optimum Intel과 양자화 기술을 통해 Intel Xeon 프로세서에서 StarCoder의 추론 성능을 7배 이상 개선했다.
LLM 신뢰성 평가 리더보드 공개
LLM의 독성, 편향성, 보안성 등을 종합적으로 평가하는 DecodingTrust 기반의 새로운 Safety Leaderboard가 공개되었다.
Hugging Face-Google Cloud 전략적 파트너십 발표
Hugging Face와 Google Cloud가 오픈 모델 기반의 AI 구축을 지원하기 위해 전략적 파트너십을 체결했다.
IBM PatchTSMixer HF 공개
IBM Research의 경량 시계열 모델 PatchTSMixer가 HuggingFace Transformers 라이브러리에 통합되었다.
Wav2Vec2-BERT로 저자원 ASR 구현하기
Meta의 Wav2Vec2-BERT를 활용해 데이터가 부족한 언어의 음성 인식(ASR) 성능을 높이는 방법을 다룬다.
SDXL Turbo 추론 속도 최대 229% 향상
ONNX Runtime과 Microsoft Olive를 통해 SD Turbo 및 SDXL Turbo 모델의 추론 성능을 대폭 개선했다.
ComfyUI 워크플로우 무료 배포 방법
ComfyUI 워크플로우를 Python으로 변환하여 Gradio 앱으로 만들고, Hugging Face ZeroGPU로 무료 배포하는 방법을 설명한다.
Hugging Face 리더보드 구축 가이드 공개
Hugging Face의 새로운 템플릿을 활용해 맞춤형 LLM 리더보드를 구축하는 기술적 방법과 Vectara의 사례를 소개한다.
Unsloth, LLM 파인튜닝 속도 2배 향상
Unsloth 라이브러리를 통해 LLM 파인튜닝 속도를 최대 2배 높이고 메모리 사용량을 40% 절감할 수 있다.
비확산 이미지 생성 모델 aMUSEd 공개
구글 MUSE를 재현한 비확산(non-diffusion) 방식의 효율적인 텍스트-이미지 생성 모델 aMUSEd가 공개되었습니다.
SDXL LoRA 학습 최적화 스크립트 공개
Hugging Face가 SDXL Dreambooth LoRA 학습 성능을 극대화한 새로운 스크립트를 공개했다.