AI Briefing#intel-xeon
#intel-xeon와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#intel-xeon와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
AWS가 T3 대비 가격 성능을 최대 30% 개선한 신규 저비용 버스터블 EC2 T8i 인스턴스를 정식 출시했다.
Intel Xeon 6 기반 Google Cloud C4 VM이 GPT OSS 추론 시 TCO를 1.7배 개선했다.
GCP의 5세대 Xeon(C4) 인스턴스가 이전 세대 대비 텍스트 임베딩 및 생성 성능에서 압도적인 효율성을 입증했다.
Intel Gaudi 2와 Xeon CPU를 활용하여 비용 효율적인 엔터프라이즈 RAG 애플리케이션을 구축하는 방법과 아키텍처를 소개한다.
🤗 Optimum Intel을 통해 Intel Xeon CPU에서 SetFit 모델의 추론 속도를 최대 7.8배 가속화할 수 있다.
Optimum Intel과 양자화 기술을 통해 Intel Xeon 프로세서에서 StarCoder의 추론 성능을 7배 이상 개선했다.
SmoothQuant 기술을 활용해 LLM의 크기를 줄이고 Intel CPU에서의 추론 효율을 높이는 방법을 다룬다.
Intel Xeon CPU의 하드웨어 및 소프트웨어 기능을 활용해 BERT 모델의 추론 성능을 최적화하는 방법을 설명한다.