AI BriefingHuggingFace Blog 뉴스
HuggingFace Blog에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Hugging Face, 양자화 백엔드 'Quanto' 공개
Hugging Face가 Optimum 라이브러리를 위한 범용 PyTorch 양자화 백엔드인 Quanto를 출시했다.
WebSight: 스크린샷을 HTML로 변환
스크린샷을 HTML 코드로 변환하는 대규모 합성 데이터셋 WebSight와 모델 Sightseer를 공개했다.
Optimum Intel로 RAG 임베딩 성능 가속화
Optimum Intel과 fastRAG를 통해 Intel CPU 환경에서 임베딩 모델의 추론 성능을 최적화하는 방법을 다룬다.
멀티모달 추론 벤치마크 'ConTextual' 공개
멀티모달 모델의 텍스트-이미지 공동 추론 능력을 평가하는 새로운 데이터셋 및 리더보드 'ConTextual'이 공개되었다.
Hugging Face, 커뮤니티 공동 데이터셋 구축 지원
Hugging Face와 Argilla가 커뮤니티 협력을 통한 고품질 데이터셋 구축을 지원하는 프로그램을 공개했다.
Intel Gaudi 2에서 Llama 2 실행 가이드
Intel Gaudi 2 가속기에서 Llama 2 모델을 효율적으로 실행하기 위한 Optimum Habana 기반의 텍스트 생성 파이프라인 사용법을 소개한다.
StarCoder2 및 The Stack v2 공개
BigCode가 차세대 오픈 소스 코드 LLM인 StarCoder2와 대규모 코드 데이터셋 The Stack v2를 공개했다.
HuggingFace, TTS Arena 공개
HuggingFace가 인간의 선호도를 기반으로 TTS 모델의 품질을 비교하는 TTS Arena를 출시했다.
Matryoshka Embedding 기술
핵심 정보를 앞쪽 차원에 집중시켜 성능 저하 없이 임베딩 차원을 축소하는 Matryoshka Embedding 기술을 소개한다.
Hugging Face, Gemma 모델 PEFT 가이드 공개
Hugging Face가 Gemma 모델을 효율적으로 미세 조정할 수 있는 PEFT 및 QLoRA 활용 가이드를 공개했다.
Upstage, Open Ko-LLM Leaderboard 공개
Upstage가 한국어 LLM의 성능을 공정하게 평가하기 위한 Open Ko-LLM Leaderboard를 출시했다.
PEFT, LoRA 어댑터 병합 기능 업데이트
Hugging Face의 PEFT 라이브러리가 LoRA 어댑터를 효율적으로 결합할 수 있는 새로운 병합 방법을 지원한다.
합성 데이터 활용 맞춤형 모델 구축
LLM으로 생성한 합성 데이터를 활용해 GPT-4 수준의 성능을 내는 저비용·고효율 맞춤형 모델 구축 방법을 제시한다.
Hugging Face, OpenAI 호환 Messages API 출시
Hugging Face가 OpenAI API와 호환되는 Messages API를 출시하여 오픈 LLM으로의 전환을 지원한다.
LLM 추론 평가용 NPHardEval 리더보드 공개
복잡도 클래스를 활용해 LLM의 논리적 추론 능력을 동적으로 평가하는 NPHardEval 리더보드가 공개되었다.