Hugging Face가 PRO 구독자에게 고성능 모델 전용 API와 높은 사용량 제한을 제공하는 'Inference for PRO'를 출시했다.
Rocket Money가 Hugging Face Inference API를 통해 4,000개 이상의 클래스를 가진 BERT 모델을 프로덕션에 성공적으로 배포했다.
Hugging Face가 객체 탐지 모델의 성능을 비교하는 리더보드를 공개하고 주요 평가 지표를 설명했다.
Replit이 브라우저의 제약을 넘어 macOS, Windows, Linux에서 사용할 수 있는 공식 데스크톱 앱을 출시했다.
PyTorch FSDP를 활용해 Llama 2 70B 모델의 메모리 및 체크포인트 저장 문제를 해결하며 파인튜닝하는 방법을 다룬다.
42배의 높은 공간 압축률을 통해 학습 및 추론 비용을 획기적으로 줄인 새로운 확산 모델 Würstchen이 공개되었다.
AI21 Labs의 LLMs가 Google Cloud Marketplace에서 제공된다.
Replit의 자동 확장 배포 기능을 통해 Bun 앱을 수요에 따라 자동으로 확장하며 배포할 수 있다.
🤗 Transformers 라이브러리에서 기본 지원하는 bitsandbytes와 auto-gptq 양자화 방식의 특징을 비교한다.
Hugging Face가 StarCoder를 기반으로 투명성과 커스터마이징이 가능한 기업용 코드 어시스턴트 SafeCoder를 공개했다.
Steve Moraco가 Replit을 활용해 Siri를 대체하는 개인 맞춤형 AI 에이전트 DATA를 구축하고 빠르게 사업을 확장했다.
SDXL의 제어 성능을 유지하면서 ControlNet보다 훨씬 가볍고 빠른 T2I-Adapter가 diffusers에 도입되었다.
Replit은 대규모 컨테이너 이미지의 풀링 및 압축 해제 병목을 해결하기 위해 Lazy Image Streaming 기술을 도입했다.
Replit이 트래픽에 따라 자동으로 확장되는 Autoscale과 정적 사이트 호스팅을 위한 Static 배포 기능을 출시했다.
TII가 1,800억 개의 파라미터를 가진 대규모 오픈 소스 LLM Falcon 180B를 공개했다.
Fetch가 SageMaker와 Hugging Face를 활용해 ML 파이프라인을 최적화하여 지연 시간을 50% 줄이고 정확도를 200% 높였다.
Replit은 인프라 개선을 통해 스타트업이 제품을 빠르게 출시하고 확장할 수 있는 환경을 제공하며 다양한 성공 사례를 만들어내고 있다.
AI Briefing