← 모든 소스

HuggingFace Blog 뉴스

HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.

원문 사이트 방문 →

LLM 성능 최적화: Prefill/Decode 이해

LLM 추론의 핵심 단계인 Prefill과 Decode의 메커니즘과 주요 성능 지표를 설명한다.

·2025.04.16 19시

LCLM 평가 벤치마크 HELMET 공개

기존의 단순 합성 태스크를 넘어 Long-context 언어 모델을 다각도로 평가하는 새로운 벤치마크 HELMET를 소개한다.

·2025.04.16 09시

Cohere, Hugging Face에서 직접 추론 가능

Cohere의 주요 LLM 및 멀티모달 모델을 Hugging Face Hub에서 서버리스 추론으로 사용할 수 있다.

·2025.04.16 09시

Gradio, 단순 UI를 넘어선 ML 프레임워크

Gradio는 API 자동 생성, SSR, 큐 관리 기능을 갖춘 ML 모델 상호작용 프레임워크다.

·2025.04.16 09시

Hugging Face 모델 보안 스캔 성과

Hugging Face와 Protect AI가 협력하여 447만 개의 모델을 스캔하고 35만 건 이상의 보안 위협을 탐지했다.

·2025.04.14 09시

Hugging Face, Pollen Robotics 인수

Hugging Face가 Pollen Robotics를 인수하며 오픈소스 로봇 시장에 본격 진출한다.

·2025.04.14 09시

멀티모달 모델 Visual Salamandra 공개

70억 파라미터 규모의 멀티모달 모델 Visual Salamandra가 이미지와 비디오 이해 능력을 갖춰 공개되었다.

·2025.04.11 23시

아랍어 LLM 평가 리더보드 및 AraGen 업데이트

아랍어 LLM 성능 평가를 위한 통합 리더보드 출시와 AraGen 및 Arabic IFEval 벤치마크 업데이트가 발표되었다.

·2025.04.08 09시

Llama 4 Maverick 및 Scout 공개

Meta의 차세대 MoE 모델인 Llama 4 Maverick과 Scout가 Hugging Face에 출시되었다.

·2025.04.05 09시

Hugging Face, LLM 코스 개편

Hugging Face가 기존 NLP 코스를 LLM 중심의 최신 커리큘럼으로 업데이트하고 개편한다.

·2025.04.03 09시

LLM 성능 최적화를 위한 요청 큐잉 전략

특정 사용자의 요청 독점을 방지하기 위해 API 서버 계층에서 페어 스케줄링을 도입하는 전략을 제안한다.

·2025.04.02 22시

Hugging Face, Infisical로 AI 인프라 보안 강화

Hugging Face가 멀티 클라우드 환경의 보안 강화를 위해 Infisical을 도입하여 비밀 정보 관리를 자동화했다.

·2025.03.31 09시

TGI, Intel Gaudi 네이티브 지원 시작

HuggingFace의 LLM 서빙 솔루션 TGI가 Intel Gaudi 하드웨어를 네이티브로 지원합니다.

·2025.03.28 09시

DeepSeek-V3-0324 모델 공개

DeepSeek가 성능과 라이선스를 개선한 DeepSeek-V3-0324 모델을 공개했다.

·2025.03.27 03시

Sentence Transformers v4.0, Reranker 학습 지원

Sentence Transformers v4.0 업데이트를 통해 Reranker 모델의 효율적인 학습 및 파인튜닝 방법이 공개되었다.

·2025.03.26 09시

Gradio, Dataframe 컴포넌트 대규모 업데이트

Gradio가 데이터 조작 및 시각화 기능을 대폭 강화한 Dataframe 컴포넌트 업데이트를 발표했다.

·2025.03.24 09시

Hugging Face, Inference Endpoints 실시간 분석 기능 업데이트

Hugging Face가 Inference Endpoints의 모니터링 및 디버깅을 위한 실시간 분석 대시보드 업데이트를 발표했다.

·2025.03.21 09시

Hugging Face, 백악관에 오픈 소스 강조

Hugging Face가 백악관의 AI 액션 플랜에 대해 오픈 소스와 오픈 사이언스의 핵심적 역할을 강조하는 답변을 제출했다.

·2025.03.19 09시

Hugging Face, Xet 기반 스토리지 도입

Hugging Face가 바이트 단위 중복 제거를 지원하는 Xet 스토리지를 도입해 대규모 파일 전송 효율을 높였다.

·2025.03.18 09시

NVIDIA, Physical AI 모델·데이터셋 공개

NVIDIA가 로보틱스 및 자율주행 발전을 위한 Cosmos Transfer 모델, 대규모 데이터셋, Isaac GR00T N1을 공개했다.

·2025.03.18 09시