Intel Gaudi 2와 Xeon CPU를 활용하여 비용 효율적인 엔터프라이즈 RAG 애플리케이션을 구축하는 방법과 아키텍처를 소개한다.
Hugging Face가 AWS Marketplace를 통해 Enterprise Hub를 구독할 수 있는 기능을 출시했다.
OpenAI가 창작자의 콘텐츠 사용 권한을 관리할 수 있는 도구인 Media Manager를 개발한다고 발표했다.
OpenAI가 AI 생성 콘텐츠의 진위 확인을 위해 C2PA 표준을 도입하고 텍스트 및 이미지 출처 기술을 강화한다.
OpenAI와 Stack Overflow가 API 파트너십을 체결해 개발자용 AI 모델 성능을 높이고 ChatGPT에 검증된 기술 지식을 제공한다.
상품 목록 및 상세 페이지에 ISR 기반 Full Route Cache를 적용해 평균 TPS를 34에서 220으로 높였다.
Artificial Analysis가 가격, 속도, 품질을 종합 평가하는 LLM 성능 리더보드를 Hugging Face에 도입했다.
AI21이 Contextual Answers와 Jamba-Instruct로 금융 Term Sheet 생성 자동화를 제시했다.
테라폼과 Ansible을 결합하여 서버 프로비저닝부터 모니터링 설정까지 이어지는 인프라 자동화 환경을 구축했다.
LangSmith가 LLM 애플리케이션의 성능 변화를 정밀하게 비교하고 분석할 수 있는 개선된 회귀 테스트 기능을 출시했다.
Hugging Face Inference Endpoints에서 Whisper와 Pyannote를 결합하여 화자 분리 및 추측적 디코딩을 지원하는 커스텀 핸들러 구현법을 소개한다.
FuriosaAI가 Gen 1 Vision NPU Warboy의 SDK 성능 검증을 위해 첫 해커톤을 개최했다.
OpenAI가 Financial Times와 파트너십을 맺고 ChatGPT에 FT의 저널리즘 콘텐츠를 도입한다.
StarCoder2-15B를 활용해 인간의 개입이나 유료 LLM 없이 스스로 학습한 코드 생성 모델이 공개되었다.
사내 사이드 프로젝트로 1년 반 동안 개발된 라이브러리를 다음 달 실제 서비스에 적용할 예정이다.
Qwen 팀이 Llama-3-70B와 대등한 성능을 갖춘 100B 규모의 Qwen1.5-110B 모델을 공개했다.
LangChain의 LLM DevOps 플랫폼인 LangSmith가 Azure Marketplace를 통해 Azure Kubernetes Application으로 출시되었습니다.
OpenAI가 GPT-4 API를 정식 출시하고, 기존 Completions API의 구형 모델 지원을 종료한다.