Lighthouz AI와 Hugging Face가 LLM의 개인정보 보호 가드레일을 테스트하는 Chatbot Guardrails Arena를 출시했다.
Hugging Face가 Optimum 라이브러리를 위한 범용 PyTorch 양자화 백엔드인 Quanto를 출시했다.
스크린샷을 HTML 코드로 변환하는 대규모 합성 데이터셋 WebSight와 모델 Sightseer를 공개했다.
Optimum Intel과 fastRAG를 통해 Intel CPU 환경에서 임베딩 모델의 추론 성능을 최적화하는 방법을 다룬다.
멀티모달 모델의 텍스트-이미지 공동 추론 능력을 평가하는 새로운 데이터셋 및 리더보드 'ConTextual'이 공개되었다.
Hugging Face와 Argilla가 커뮤니티 협력을 통한 고품질 데이터셋 구축을 지원하는 프로그램을 공개했다.
Intel Gaudi 2 가속기에서 Llama 2 모델을 효율적으로 실행하기 위한 Optimum Habana 기반의 텍스트 생성 파이프라인 사용법을 소개한다.
BigCode가 차세대 오픈 소스 코드 LLM인 StarCoder2와 대규모 코드 데이터셋 The Stack v2를 공개했다.
HuggingFace가 인간의 선호도를 기반으로 TTS 모델의 품질을 비교하는 TTS Arena를 출시했다.
핵심 정보를 앞쪽 차원에 집중시켜 성능 저하 없이 임베딩 차원을 축소하는 Matryoshka Embedding 기술을 소개한다.
Hugging Face가 Gemma 모델을 효율적으로 미세 조정할 수 있는 PEFT 및 QLoRA 활용 가이드를 공개했다.
Upstage가 한국어 LLM의 성능을 공정하게 평가하기 위한 Open Ko-LLM Leaderboard를 출시했다.
Hugging Face의 PEFT 라이브러리가 LoRA 어댑터를 효율적으로 결합할 수 있는 새로운 병합 방법을 지원한다.
LLM으로 생성한 합성 데이터를 활용해 GPT-4 수준의 성능을 내는 저비용·고효율 맞춤형 모델 구축 방법을 제시한다.
Hugging Face가 OpenAI API와 호환되는 Messages API를 출시하여 오픈 LLM으로의 전환을 지원한다.
복잡도 클래스를 활용해 LLM의 논리적 추론 능력을 동적으로 평가하는 NPHardEval 리더보드가 공개되었다.
AI Briefing