컬리 데이터서비스개발팀이 TorchServe 튜닝과 GracefulShutdown 적용으로 장바구니 추천 모델의 무중단 실시간 서빙 시스템을 구축했다.
LLM의 보안 취약점과 사이버 공격 역량을 종합적으로 평가하는 CyberSecEval 2 프레임워크가 공개되었습니다.
카카오페이는 멀티 모듈 환경에서 앱 용량을 관리하기 위해 리소스 모듈을 도입하고 사용 방식을 표준화했다.
OpenAI가 News Corp와 다년 계약을 맺고 월스트리트저널 등 주요 뉴스 콘텐츠를 자사 제품에 활용하기로 했다.
Hugging Face가 AWS Inferentia2를 지원하여 10만 개 이상의 모델을 SageMaker 및 Inference Endpoints에서 배포할 수 있게 되었다.
코딩 경험이 적은 사용자가 Replit과 AI를 활용해 매일 야구 점수를 자동으로 전달하는 시스템을 구축했다.
Hugging Face와 Microsoft가 Azure를 통한 오픈 모델 배포 및 AMD GPU 최적화 등 전략적 협력을 강화한다.
Hugging Face가 AMD Instinct MI300 GPU를 플랫폼에 통합하여 모델 배포 및 추론 최적화를 지원한다.
Hugging Face가 Dell 플랫폼을 통해 온프레미스 환경에서 오픈 모델을 쉽게 학습 및 배포할 수 있는 Dell Enterprise Hub를 출시했다.
Hugging Face가 VS Code 및 SSH를 통해 Spaces 코드를 직접 편집할 수 있는 Dev Mode를 출시했다.
올리브영 QA 팀이 AWS Lambda와 Jira Automation을 결합해 장애 전파 및 관리를 자동화하는 On-call 시스템을 구축했다.
OpenAI가 ChatGPT Voice Mode의 목소리 선정 과정과 스칼렛 요한슨 관련 논란에 대한 경위를 공개했다.
OpenAI가 Google Drive 및 OneDrive 연동과 인터랙티브 차트 기능을 포함한 ChatGPT 데이터 분석 기능 개선을 발표했다.
OpenAI와 Reddit이 파트너십을 체결해 ChatGPT에 Reddit 데이터를 활용하고, Reddit은 OpenAI 모델 기반의 AI 기능을 도입한다.
Canva가 OpenAI의 GPT-4를 활용해 통합 AI 크리에이티브 스위트인 Magic Studio를 구축했다.
KV Cache 양자화를 통해 LLM의 메모리 사용량을 줄이고 더 긴 컨텍스트 생성을 지원한다.
LangSmith가 LLM 답변 간의 우열을 직접 비교하여 인간의 선호도를 더 정확히 측정하는 Pairwise Evaluation 기능을 출시했다.