상품 목록 및 상세 페이지에 ISR 기반 Full Route Cache를 적용해 평균 TPS를 34에서 220으로 높였다.
Artificial Analysis가 가격, 속도, 품질을 종합 평가하는 LLM 성능 리더보드를 Hugging Face에 도입했다.
AI21이 Contextual Answers와 Jamba-Instruct로 금융 Term Sheet 생성 자동화를 제시했다.
테라폼과 Ansible을 결합하여 서버 프로비저닝부터 모니터링 설정까지 이어지는 인프라 자동화 환경을 구축했다.
LangSmith가 LLM 애플리케이션의 성능 변화를 정밀하게 비교하고 분석할 수 있는 개선된 회귀 테스트 기능을 출시했다.
Hugging Face Inference Endpoints에서 Whisper와 Pyannote를 결합하여 화자 분리 및 추측적 디코딩을 지원하는 커스텀 핸들러 구현법을 소개한다.
FuriosaAI가 Gen 1 Vision NPU Warboy의 SDK 성능 검증을 위해 첫 해커톤을 개최했다.
OpenAI가 Financial Times와 파트너십을 맺고 ChatGPT에 FT의 저널리즘 콘텐츠를 도입한다.
StarCoder2-15B를 활용해 인간의 개입이나 유료 LLM 없이 스스로 학습한 코드 생성 모델이 공개되었다.
사내 사이드 프로젝트로 1년 반 동안 개발된 라이브러리를 다음 달 실제 서비스에 적용할 예정이다.
Qwen 팀이 Llama-3-70B와 대등한 성능을 갖춘 100B 규모의 Qwen1.5-110B 모델을 공개했다.
LangChain의 LLM DevOps 플랫폼인 LangSmith가 Azure Marketplace를 통해 Azure Kubernetes Application으로 출시되었습니다.
OpenAI가 GPT-4 API를 정식 출시하고, 기존 Completions API의 구형 모델 지원을 종료한다.
Moderna가 OpenAI의 ChatGPT Enterprise를 도입해 전사적 업무 프로세스 혁신과 치료제 개발 가속화를 추진한다.
인프랩이 서비스 개편을 위해 React Native 기반의 모바일 앱 전담 개발팀을 새롭게 구성하고 조직 문화를 소개했다.
OpenAI가 생성형 AI를 통한 아동 성착취를 방지하기 위해 'Safety by Design' 원칙을 도입한다.
OpenAI가 보안, 관리 제어, Assistants API 개선 및 비용 절감을 위한 새로운 엔터프라이즈급 API 기능을 출시했다.