Microsoft의 소형 시각 언어 모델 Florence-2를 DocVQA 작업에 맞춰 미세 조정하는 방법과 성능 결과를 소개한다.
Hugging Face가 협업 프로젝트 'Data Is Better Together'의 데이터셋 구축 성과와 향후 계획을 공개했다.
실무적인 프로그래밍 능력 평가를 위한 새로운 LLM 코드 생성 벤치마크 BigCodeBench가 공개되었다.
DeepSpeed와 PyTorch FSDP의 내부 정밀도 처리 방식 차이가 모델 학습 결과에 미치는 영향을 분석한다.
HuggingFace가 PPO보다 메모리 효율이 높고 속도가 빠른 새로운 RLHF 알고리즘인 RLOO 트레이너를 TRL에 도입했다.
Hugging Face의 Diffusers 라이브러리가 Stable Diffusion 3(SD3) 모델을 공식 지원한다.
Hugging Face가 Amazon SageMaker에서 임베딩 모델을 효율적으로 배포할 수 있는 전용 컨테이너를 정식 출시했다.
45,000건 이상의 인간 선호도를 기반으로 이미지 생성 모델의 성능을 비교하는 리더보드가 출시되었다.
LLM의 함수 호출 기능을 활용해 3D 환경에서 지능형 NPC를 구현하는 오픈소스 프로젝트 NPC-Playground가 공개되었다.
Intel Gaudi에서 Speculative Sampling 기반의 Assisted Generation을 지원하여 LLM 추론 속도를 최대 2배 높인다.
HuggingFace가 Spaces 플랫폼의 보안 사고를 인지하고 토큰 무효화 및 보안 강화 조치를 시행했다.
Sentence Transformers v3.0의 새로운 학습 방식을 활용한 임베딩 모델 파인튜닝 방법을 상세히 설명한다.
LLM의 보안 취약점과 사이버 공격 역량을 종합적으로 평가하는 CyberSecEval 2 프레임워크가 공개되었습니다.
Hugging Face가 AWS Inferentia2를 지원하여 10만 개 이상의 모델을 SageMaker 및 Inference Endpoints에서 배포할 수 있게 되었다.
Hugging Face와 Microsoft가 Azure를 통한 오픈 모델 배포 및 AMD GPU 최적화 등 전략적 협력을 강화한다.
Hugging Face가 AMD Instinct MI300 GPU를 플랫폼에 통합하여 모델 배포 및 추론 최적화를 지원한다.
Hugging Face가 Dell 플랫폼을 통해 온프레미스 환경에서 오픈 모델을 쉽게 학습 및 배포할 수 있는 Dell Enterprise Hub를 출시했다.
Hugging Face가 VS Code 및 SSH를 통해 Spaces 코드를 직접 편집할 수 있는 Dev Mode를 출시했다.
KV Cache 양자화를 통해 LLM의 메모리 사용량을 줄이고 더 긴 컨텍스트 생성을 지원한다.
아랍어 LLM의 성능을 전문적으로 평가하기 위한 Open Arabic LLM Leaderboard가 공개되었다.
Hugging Face와 LangChain이 협력하여 최신 기능을 지원하는 langchain-huggingface 패키지를 출시했다.
Google이 SigLIP과 Gemma를 결합한 새로운 오픈 비전 언어 모델(VLM) PaliGemma를 공개했다.
AI Briefing