AI BriefingHuggingFace Blog 뉴스
HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Hugging Face Inference API로 AI Comic Factory 배포하기
Hugging Face의 Inference API를 활용해 인기 AI 애플리케이션인 AI Comic Factory를 개인 Space에 배포하는 방법을 안내한다.
TRL, DDPO로 Stable Diffusion RLHF 지원
HuggingFace의 TRL 라이브러리가 DDPO를 지원하여 Stable Diffusion 모델의 RLHF 미세 조정을 가능하게 한다.
SageMaker Llama 2 배포 벤치마크
Hugging Face가 Amazon SageMaker에서 Llama 2를 최적으로 배포하기 위한 60개 이상의 구성에 대한 벤치마크 결과를 공개했다.
Hugging Face, PRO용 Inference API 출시
Hugging Face가 PRO 구독자에게 고성능 모델 전용 API와 높은 사용량 제한을 제공하는 'Inference for PRO'를 출시했다.
Rocket Money, Hugging Face로 ML 스케일링
Rocket Money가 Hugging Face Inference API를 통해 4,000개 이상의 클래스를 가진 BERT 모델을 프로덕션에 성공적으로 배포했다.
Hugging Face, 객체 탐지 리더보드 공개
Hugging Face가 객체 탐지 모델의 성능을 비교하는 리더보드를 공개하고 주요 평가 지표를 설명했다.
Llama 2 70B 효율적 파인튜닝 가이드
PyTorch FSDP를 활용해 Llama 2 70B 모델의 메모리 및 체크포인트 저장 문제를 해결하며 파인튜닝하는 방법을 다룬다.
고압축 기반 Würstchen 공개
42배의 높은 공간 압축률을 통해 학습 및 추론 비용을 획기적으로 줄인 새로운 확산 모델 Würstchen이 공개되었다.
🤗 Transformers 지원 양자화 방식 가이드
🤗 Transformers 라이브러리에서 기본 지원하는 bitsandbytes와 auto-gptq 양자화 방식의 특징을 비교한다.
Hugging Face, 기업용 SafeCoder 공개
Hugging Face가 StarCoder를 기반으로 투명성과 커스터마이징이 가능한 기업용 코드 어시스턴트 SafeCoder를 공개했다.
SDXL용 T2I-Adapter 지원 및 효율성 개선
SDXL의 제어 성능을 유지하면서 ControlNet보다 훨씬 가볍고 빠른 T2I-Adapter가 diffusers에 도입되었다.
TII, 180B 규모 Falcon 180B 공개
TII가 1,800억 개의 파라미터를 가진 대규모 오픈 소스 LLM Falcon 180B를 공개했다.
Fetch, SageMaker로 ML 지연 50% 단축
Fetch가 SageMaker와 Hugging Face를 활용해 ML 파이프라인을 최적화하여 지연 시간을 50% 줄이고 정확도를 200% 높였다.
Hugging Face, Git 비밀번호 인증 중단
Hugging Face가 보안 강화를 위해 Git 인증 시 비밀번호 사용을 중단하고 토큰 또는 SSH 키 사용을 의무화한다.