AI BriefingHuggingFace Blog 뉴스
HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Sentence Transformers 학습 가이드
Sentence Transformers v3.0의 새로운 학습 방식을 활용한 임베딩 모델 파인튜닝 방법을 상세히 설명한다.
LLM 보안 평가 프레임워크 공개
LLM의 보안 취약점과 사이버 공격 역량을 종합적으로 평가하는 CyberSecEval 2 프레임워크가 공개되었습니다.
Hugging Face, AWS Inferentia2 지원
Hugging Face가 AWS Inferentia2를 지원하여 10만 개 이상의 모델을 SageMaker 및 Inference Endpoints에서 배포할 수 있게 되었다.
Hugging Face-Microsoft, AI 협력 확대 발표
Hugging Face와 Microsoft가 Azure를 통한 오픈 모델 배포 및 AMD GPU 최적화 등 전략적 협력을 강화한다.
Hugging Face, AMD MI300 지원
Hugging Face가 AMD Instinct MI300 GPU를 플랫폼에 통합하여 모델 배포 및 추론 최적화를 지원한다.
Dell Enterprise Hub 공개
Hugging Face가 Dell 플랫폼을 통해 온프레미스 환경에서 오픈 모델을 쉽게 학습 및 배포할 수 있는 Dell Enterprise Hub를 출시했다.
Hugging Face Spaces Dev Mode 출시
Hugging Face가 VS Code 및 SSH를 통해 Spaces 코드를 직접 편집할 수 있는 Dev Mode를 출시했다.
Hugging Face, KV Cache 양자화 기능 공개
KV Cache 양자화를 통해 LLM의 메모리 사용량을 줄이고 더 긴 컨텍스트 생성을 지원한다.
HuggingFace, 아랍어 LLM 리더보드 공개
아랍어 LLM의 성능을 전문적으로 평가하기 위한 Open Arabic LLM Leaderboard가 공개되었다.
HF-LangChain 통합 패키지 출시
Hugging Face와 LangChain이 협력하여 최신 기능을 지원하는 langchain-huggingface 패키지를 출시했다.
Google, 오픈 VLM PaliGemma 공개
Google이 SigLIP과 Gemma를 결합한 새로운 오픈 비전 언어 모델(VLM) PaliGemma를 공개했다.
Hugging Face, smolagents 라이브러리 공개
Hugging Face가 Transformers Agents를 독립 라이브러리인 smolagents로 업그레이드하여 출시했다.
Intel Gaudi 2 기반 RAG 구축 가이드
Intel Gaudi 2와 Xeon CPU를 활용하여 비용 효율적인 엔터프라이즈 RAG 애플리케이션을 구축하는 방법과 아키텍처를 소개한다.
Hugging Face, AWS Marketplace 구독 지원
Hugging Face가 AWS Marketplace를 통해 Enterprise Hub를 구독할 수 있는 기능을 출시했다.
Hugging Face, LLM 리더보드 도입
Artificial Analysis가 가격, 속도, 품질을 종합 평가하는 LLM 성능 리더보드를 Hugging Face에 도입했다.
HF 엔드포인트 기반 ASR 및 화자 분리
Hugging Face Inference Endpoints에서 Whisper와 Pyannote를 결합하여 화자 분리 및 추측적 디코딩을 지원하는 커스텀 핸들러 구현법을 소개한다.
StarCoder2-15B-Instruct 공개
StarCoder2-15B를 활용해 인간의 개입이나 유료 LLM 없이 스스로 학습한 코드 생성 모델이 공개되었다.