Optimum Intel과 양자화 기술을 통해 Intel Xeon 프로세서에서 StarCoder의 추론 성능을 7배 이상 개선했다.
LLM의 독성, 편향성, 보안성 등을 종합적으로 평가하는 DecodingTrust 기반의 새로운 Safety Leaderboard가 공개되었다.
OpenAI가 성능이 향상되고 가격이 저렴해진 신규 임베딩 모델과 GPT-3.5 Turbo 업데이트를 발표했다.
Hugging Face와 Google Cloud가 오픈 모델 기반의 AI 구축을 지원하기 위해 전략적 파트너십을 체결했다.
IBM Research의 경량 시계열 모델 PatchTSMixer가 HuggingFace Transformers 라이브러리에 통합되었다.
Meta의 Wav2Vec2-BERT를 활용해 데이터가 부족한 언어의 음성 인식(ASR) 성능을 높이는 방법을 다룬다.
Pinecone Serverless, LangServe, LangSmith를 결합하여 프로덕션급 RAG 애플리케이션을 구축하고 배포하는 방법을 소개한다.
OpenAI가 AI 거버넌스 설계를 위해 10개 팀에 지원한 그랜트 프로그램의 성과와 향후 계획을 공개했다.
OpenAI는 2024년 전 세계 선거를 대비해 딥페이크 방지, 신뢰할 수 있는 정보 제공, 위협 행위자 차단 등 다각적인 안전 조치를 시행했다.
ONNX Runtime과 Microsoft Olive를 통해 SD Turbo 및 SDXL Turbo 모델의 추론 성능을 대폭 개선했다.
ComfyUI 워크플로우를 Python으로 변환하여 Gradio 앱으로 만들고, Hugging Face ZeroGPU로 무료 배포하는 방법을 설명한다.
Digital Green이 OpenAI 기술을 활용한 Farmer.Chat을 통해 농업 지원 비용을 100배 절감하며 맞춤형 정보를 제공한다.
Hugging Face의 새로운 템플릿을 활용해 맞춤형 LLM 리더보드를 구축하는 기술적 방법과 Vectara의 사례를 소개한다.
고성능 벡터 데이터베이스 Qdrant가 개발자의 RAG 구현 및 온보딩을 돕기 위해 Replit 템플릿을 출시했다.
Unsloth 라이브러리를 통해 LLM 파인튜닝 속도를 최대 2배 높이고 메모리 사용량을 40% 절감할 수 있다.
AI Briefing