AI BriefingHuggingFace Blog 뉴스
HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Self-Speculative Decoding 추론 가속화
동일 모델의 초기 레이어를 활용해 텍스트 생성 속도와 메모리 효율을 높이는 Self-Speculative Decoding 기술을 소개한다.
Hugging Face, 청크 단위 저장 도입
Hugging Face가 Git LFS의 한계를 극복하기 위해 콘텐츠 정의 청킹(CDC) 기술을 도입하여 저장 및 전송 효율을 높인다.
BAAI, 다국어 LLM 토론 평가 플랫폼 'FlagEval Debate' 공개
BAAI가 기존 LLM 평가의 한계를 보완하기 위해 다국어 지원 토론 기반 플랫폼 'FlagEval Debate'를 공개했다.
Hugging Face, 대규모 데이터셋 호스팅 및 탐색 기능 강화
Hugging Face Hub가 대규모 데이터셋 호스팅, 데이터 뷰어, 서드파티 라이브러리 지원 등 데이터 공유를 위한 다양한 기능을 제공한다.
PyCharm 내 Hugging Face 통합 기능 공개
PyCharm IDE에서 Hugging Face 모델을 직접 검색하고 코드를 삽입할 수 있는 통합 기능이 출시되었다.
Argilla 2.4: 노코드 데이터셋 구축 지원
Argilla 2.4가 출시되어 Hugging Face Hub의 데이터셋을 코드 없이 불러와 데이터 라벨링 및 피드백 수집이 가능해졌다.
LLM-as-a-Judge 기반 RAG 평가 사례
농업 지원용 RAG 챗봇의 신뢰성을 확보하기 위해 LLM-as-a-Judge 평가 체계를 구축한 사례를 다룬다.
HuggingFace, CinePile 2.0 공개
적대적 정제(adversarial refinement) 기법을 적용해 성능을 높인 비디오 QA 데이터셋 CinePile 2.0이 공개되었다.
Hugging Face, 추론 최적화 서비스 'HUGS' 출시
Hugging Face가 자체 인프라에서 오픈 모델을 쉽게 배포할 수 있는 추론 서비스 HUGS를 출시했다.
Google, SynthID Text 공개
Google DeepMind와 Hugging Face가 AI 생성 텍스트에 워터마크를 삽입하고 탐지하는 SynthID Text를 출시했다.
Hugging Face, Speech-to-Speech 배포 가이드 공개
Hugging Face가 복합 파이프라인인 Speech-to-Speech(S2S)를 Inference Endpoints에 배포하는 방법을 공개했다.
Outlines-core 0.1.0 출시
LLM의 구조화된 출력을 지원하는 Outlines의 핵심 알고리즘을 Rust로 포팅한 Outlines-core 0.1.0이 출시되었다.
Diffusers, SD 3.5 지원
Hugging Face의 Diffusers 라이브러리가 Stable Diffusion 3.5 Large 모델을 공식 지원한다.
Transformers.js v3: WebGPU 지원
Transformers.js v3가 출시되어 WebGPU 지원을 통해 브라우저 기반 AI 추론 성능을 극대화했다.
Keras, Llama 3.2 지원 및 사용법 안내
Keras Hub를 통해 Llama 3.2 모델을 JAX, PyTorch, TensorFlow 백엔드에서 간편하게 사용할 수 있다.
Transformers 그래디언트 누적 수정
HuggingFace가 Transformers 라이브러리에서 Gradient Accumulation 시 손실 함수 계산이 수학적으로 부정확했던 문제를 수정했다.