#ai-inference
#ai-inference와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-inference와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Cerebras가 GPU 대비 최대 30배 빠른 추론 성능을 갖춘 랙 규모 시스템 CS-4를 출시했다.
Groq가 엔비디아 기술 라이선스 계약 후 35억 달러를 조달하며 35억 달러 밸류에이션을 기록했다.
Google은 동형 암호화 컴파일러 HEIR를 공개하여 암호화된 상태로 AI 추론을 수행하는 프라이빗 AI 기술을 실용화했다.
RNGD가 RTX PRO 6000 대비 최대 44% 적은 전력으로 경쟁력 있는 추론 성능을 보였다.
Rebellions가 RAISE Summit 2026에서 AI 추론 칩 전략을 소개했다.
FuriosaAI가 스웨덴 스톡홀름에 15MW 규모 AI 데이터센터를 구축한다.
Qwen 3.8 Max를 Vercel AI Gateway에서 사용할 수 있게 됐다.
AMD와 Cerebras가 AMD Helios와 Cerebras Wafer-Scale Engine을 결합해 저지연 AI 추론 솔루션을 공개했다.
퓨리오사AI의 RNGD 가속기를 삼성 클라우드 플랫폼에서 NPUaaS 형태로 제공하여 기업의 AI 인프라 접근성을 높인다.
Nvidia 지원 Fireworks가 175억 달러 밸류에이션을 달성했으며, 저가 AI 모델 수요 증가로 매출이 급증하고 있다.
NVIDIA는 전력 제한 환경에서 AI 인프라의 수익성을 결정짓는 핵심 지표로 와트당 성능을 강조하며 Blackwell 플랫폼의 압도적인 효율성을 제시했다.
퓨리오사AI가 Equinix와 협력하여 유럽 기업들이 고성능 AI 추론을 효율적으로 수행할 수 있도록 RNGD 인프라 공급을 확대한다.
퓨리오사AI가 에퀴닉스 리스본 데이터 센터에 RNGD 서버를 설치하며 유럽 기업들을 위한 AI 추론 인프라를 확대한다.
Kubernetes 기반의 Modelplane이 공개되어 멀티 클라우드 및 온프레미스 GPU 클러스터 관리를 지원한다.
AWS가 NVIDIA RTX PRO 4500 Blackwell GPU를 탑재하여 AI 추론 성능을 대폭 강화한 Amazon EC2 G7 인스턴스를 출시했다.
AI 추론 워크로드 최적화를 위해 Redis를 대체할 수 있는 RocksDB 기반의 고성능 계층형 캐시 솔루션입니다.