AI Briefing#ai-infrastructure
#ai-infrastructure와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-infrastructure와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA가 AI 스타트업과 기업의 인프라 구축을 돕기 위해 수익 공유 및 크레딧 지원 모델을 도입한다.
AI 에이전트가 피드백 신호와 인간의 입력을 통해 스스로 성능을 개선하는 'outer loop' 구조를 설명한다.
Cerebrium이 gVisor 기반 런타임에서 CPU 및 GPU 메모리 스냅샷 기술을 통해 AI 모델의 콜드 스타트 시간을 80% 이상 단축했다고 발표했다.
메타가 남는 AI 컴퓨팅 자원과 모델을 외부 개발자에게 판매하는 클라우드 사업을 준비하며 기존 하이퍼스케일러에 도전한다.
AWS가 Graviton5 프로세서를 탑재하여 성능과 효율성을 높인 Amazon EC2 C9g 및 C9gd 인스턴스를 출시했다.
Nvidia GPU 없이도 CUDA 애플리케이션을 실행할 수 있게 돕는 Zluda 6가 출시되었습니다.
Moondream의 Photon 엔진이 파이프라인 디코딩 기술을 통해 GPU 유휴 시간을 줄여 추론 성능을 최적화하는 방법을 설명한다.
DeepSeek가 LLM의 응답 속도를 획기적으로 개선하는 추측적 디코딩 프레임워크 DSpark를 MIT 라이선스로 공개했다.
한국 정부와 주요 기업들이 AI 인프라 및 로봇 산업 주도권을 위해 1조 달러 규모의 메가 프로젝트를 추진한다.
모델 호출 없이 프롬프트 구조를 분석하여 로컬과 클라우드 LLM으로 쿼리를 분배하는 라우터입니다.
Apple Silicon의 AI 가속기인 Neural Engine(ANE)의 아키텍처와 동작 원리를 역공학으로 분석한 연구 논문입니다.
사용자의 요청에 따라 최적의 LLM을 자동으로 선택해주는 오픈소스 프록시 도구인 RouterArena를 공개했다.
NVIDIA NeMo AutoModel이 HuggingFace Transformers v5와 결합하여 MoE 모델의 학습 효율을 극대화한다.
NVIDIA와 AWS가 협력하여 EC2 G7 인스턴스와 OpenSearch의 GPU 가속 기능을 통해 대규모 AI 워크로드 구현을 지원한다.
주요 AI 연구소들의 채용 직군 분석 결과, xAI는 과학적 추론 강화를, Nvidia는 데이터센터 인프라 확장을 목표로 하고 있음이 드러남.
AWS Lambda가 AI 코딩 어시스턴트 등을 위한 격리된 상태 유지형 MicroVM 실행 환경을 출시했다.
NVIDIA 기술이 세계 500대 슈퍼컴퓨터의 81%를 차지하며 AI 및 과학 연산 시장을 압도하고 있다.
미 연방 규제 당국이 AI 데이터 센터의 급증하는 전력 수요를 충족하기 위해 전력망 운영사에 신속한 연결을 명령했다.
NVIDIA가 45°C 고온 액체 냉각 기술을 통해 데이터센터의 에너지 및 물 소비를 획기적으로 줄이는 기술을 선보였다.
제프 베이조스가 AI 데이터 센터의 냉각을 위한 수자원 확보가 인류의 생존보다 우선될 수 있다고 주장했습니다.