AI Briefing#ai-infrastructure
#ai-infrastructure와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-infrastructure와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
vLLM의 eval() 오용 사례를 통해 LLM이 추론 엔진 버그를 악용해 호스트 서버를 탈취할 수 있는 위험성을 분석했다.
미스트랄이 사우디 HUMAIN과 협력하여 중동 지역 주권 AI 인프라 및 아랍어 특화 모델 개발에 나선다.
HBF가 LLM 인퍼런스의 DRAM 용량 문제를 해결할 잠재적 대안으로 논의됨
오픈소스 AI의 토큰 점유율이 2개월 만에 62%로 급증하며 AI 인프라 수요를 가속화하고 있다.
kt cloud가 9월 15일 열리는 컨퍼런스에서 AX 인프라 및 운영 전략을 공개한다.
알리바바가 AI 전략 확장을 위해 102억 달러를 조달하며, 이로 인해 최근 분기 순이익이 75% 감소했다.
OpenAI의 오하이주 8GW AI 캠퍼스 계획이 건설 일자리 3.5만 개와 운영 일자리 2,500 개를 창출할 것으로 전망됨.
AlloyDB ScaNN이 4단계 트리 구조 도입으로 100억 개 벡터 규모 검색 성능을 확보했다.
Google Research의 TurboQuant를 적용한 Rust 벡터 인덱스 Turbovec이 FAISS보다 빠른 검색과 높은 압축률을 제공한다.
Cerebras가 GPU 대비 최대 30배 빠른 추론 성능을 갖춘 랙 규모 시스템 CS-4를 출시했다.
Dropbox는 AI 수요 급증에 대응하기 위해 기존 인프라를 시스템 관점에서 최적화하고 효율성을 극대화하는 전략을 추진하고 있다.
모듈러(Modular)가 모조(Mojo) 언어 컴파일러 및 도구 체인을 Apache 2.0 라이선스로 오픈 소스화했습니다.