Replit이 프로덕션급 배포, 고성능 워크스페이스, 보안 확장 프로그램 플랫폼을 포함한 주요 업데이트를 발표했다.
개발 플랫폼 Replit이 클라우드 서비스 확장과 AI 개발 혁신을 위해 9,740만 달러 규모의 투자를 유치했다.
Hugging Face가 AWS Inferentia2 최적화를 지원하여 Transformers 모델의 추론 성능과 비용 효율성을 개선했다.
Replit이 개발과 프로덕션 환경을 완전히 분리하여 안정적인 서비스 운영을 지원하는 'Replit Deployments'를 출시했다.
전 GitHub CEO Nat Friedman이 Replit Bounties를 통해 LLM 비교 도구 nat.dev를 구축한 사례를 소개한다.
Snorkel AI가 Hugging Face의 Inference Endpoint를 활용해 기업용 파운데이션 모델 개발 환경을 확장한다.
Replit이 유료 플랜 사용자를 대상으로 Google Cloud의 스팟 인스턴스 대신 정규 VM을 제공하여 컨테이너 재시작 빈도를 10배 줄였다.
Replit과 Chroma가 개발자가 메모리와 지식을 갖춘 AI 애플리케이션을 쉽게 구축할 수 있도록 돕는 전용 템플릿을 출시했다.
Hugging Face가 RLHF를 활용해 LLaMA를 학습시키는 StackLLaMA 모델과 가이드를 공개했다.
Replit Bounties를 통해 맞춤형 개발 솔루션을 확보하여 MVP를 빠르게 구축하고 업무를 자동화할 수 있다.
Replit의 GitHub 임포트 기능 취약점으로 인해 일부 사용자의 GitHub 인증 토큰이 노출될 가능성이 발견되어 즉각 조치되었다.
Hugging Face가 AI 모델의 윤리적 활용을 지원하기 위해 새로운 윤리 태그와 안전장치를 도입한다.
Intel Sapphire Rapids CPU에서 OpenVINO를 활용해 Stable Diffusion 추론 속도를 2배 이상 높이는 방법을 소개한다.
🤗 Optimum Habana을 통해 Habana Gaudi2 가속기에서 176B 규모의 BLOOMZ 모델을 효율적으로 배포하고 추론하는 방법을 소개한다.
Replit과 Google Cloud가 파트너십을 맺고 소프트웨어 개발을 위한 생성형 AI 기술을 고도화하기로 했다.
Replit은 개발자가 IDE를 벗어나지 않고도 코딩과 디버깅을 수행할 수 있도록 IDE에 통합된 AI 페어 프로그래머 Ghostwriter Chat을 구축했다.
Hugging Face와 Flower 프레임워크를 결합하여 언어 모델의 연합 학습을 구현하는 기술 튜토리얼이다.
AI Briefing