Hugging Face의 TGI가 vLLM, TensorRT-LLM 등 다양한 추론 엔진을 지원하는 멀티 백엔드 아키텍처를 도입한다.
Hugging Face가 timm의 다양한 컴퓨터 비전 모델을 transformers 생태계에서 사용할 수 있게 하는 TimmWrapper를 공개했다.
CPU 환경에서 기존 모델 대비 최대 400배 빠른 속도를 제공하는 정적 임베딩 모델과 학습 방법론이 공개되었다.
HuggingFace가 Open LLM Leaderboard 데이터를 통해 모델 성능과 CO₂ 배출량 간의 상관관계를 분석했다.
HuggingFace가 LLM이 직접 코드를 작성해 도구를 사용하는 심플한 에이전트 라이브러리 smolagents를 출시했다.
NVIDIA가 Hugging Face와 호환되는 LLM 생성 제어용 라이브러리 LogitsProcessorZoo를 공개했다.
8,192 토큰의 긴 컨텍스트와 향상된 성능을 갖춘 차세대 BERT 대체 모델, ModernBERT가 공개되었습니다.
GCP의 5세대 Xeon(C4) 인스턴스가 이전 세대 대비 텍스트 임베딩 및 생성 성능에서 압도적인 효율성을 입증했다.
자연어 설명만으로 맞춤형 데이터셋을 생성할 수 있는 노코드 도구, Synthetic Data Generator가 공개되었다.
Hugging Face와 Entalpic이 재료 연구 가속화를 위한 오픈 소스 프로젝트 LeMaterial과 통합 데이터셋 LeMat-Bulk를 공개했다.
Hugging Face 커뮤니티가 텍스트-이미지 생성 모델 학습을 위한 오픈 소스 선호도 데이터셋을 공개했다.
Amazon Bedrock Marketplace를 통해 83종의 Hugging Face 오픈 모델을 사용할 수 있게 되었다.
Google이 Gemma 2를 기반으로 한 새로운 시각 언어 모델(VLM) PaliGemma 2를 공개했다.
HuggingFace가 사실성과 유용성을 동시에 평가하는 3C3H 지표 기반의 아랍어 LLM 벤치마크 AraGen을 공개했다.
LLM 기반 데이터 라벨링으로 소형 모델의 성능을 높이고 운영 비용을 최대 80배 절감한 CFM의 사례를 소개한다.
AI Briefing