llama.cpp에서 logits 공간 예약 방식을 개선하여 VRAM 사용량을 절감하는 Pull Request가 제안되었습니다.
MLE-Bench의 성능 향상이 알고리즘 발전보다 모델 성능 및 탐색량 증가에 기인한다는 분석과 함께 신규 벤치마크 FML-Bench가 공개되었다.
AWS가 Claude Opus 4.8을 출시하고 에이전트 AI를 위한 인프라 업데이트를 발표했다.
일관된 고객 경험을 위해 채널별 개별 구축 대신 로직 레이어 중심의 옴니채널 AI 에이전트 배포 전략이 필요하다.
스탠퍼드 대학교가 트랜스포머 모델의 설계부터 학습, 평가까지 전 과정을 다루는 CS336 강의를 공개했다.
mistral.rs v0.8.2가 출시되어 H100 및 B200 등 최신 GPU에서 llama.cpp보다 최대 2.8배 빠른 CUDA 추론 성능을 제공한다.
기업용 AI 에이전트의 확장성을 위해 LLM에 지식 그래프와 알고리즘 같은 '에이전트 로직'을 결합해야 한다.
LLM 에이전트가 보안 버그를 수정할 때, 테스트를 통과하지만 취약점을 남겨두는 '그럴듯한 오답'이 가장 위험하다는 연구 결과가 발표되었다.
GPU 클러스터의 자원 요구량을 정밀하게 예측하여 유휴 용량을 줄이는 Expanse를 출시했다.
LLM 호출 로깅, 비용 추적, 에이전트 트레이싱을 지원하는 오픈소스 관측 플랫폼 Spanlens가 공개되었다.
OpenAI가 미시간주 살린에 1GW 규모의 데이터 센터 캠퍼스인 'The Barn' 착공을 시작했다.
AI 데이터센터의 전력 밀도 급증에 따라 안정적인 전력 공급을 위한 전력 케이블의 중요성이 커지고 있다.
로컬 기기에서 고품질 이미지 생성을 지원하는 1비트 및 ternary 방식의 소형 Bonsai Image 4B 모델이 공개됨.
GitHub Copilot Enterprise의 Premium Requests 카운터가 제거되고 사용량 기반 크레딧 방식으로의 전환이 관측되었습니다.
Alibaba의 Qwen 3.7 Plus가 Vercel AI Gateway에 추가되어 시각 및 언어 통합 에이전트 기능을 지원한다.