프론티어 AI 인프라의 전력 소비량이 주요 국가의 총 전력량을 넘어섰으며, 인당 컴퓨팅 자원도 급격히 증가하고 있다.
경계 영역을 집중 학습하는 LingBot-Vision이 적은 데이터로도 DINOv3보다 높은 기하학적 이해도를 보였다.
Nvidia의 서버 조립 파트너인 Hon Hai(Foxconn)가 AI 수요 증가에 힘입어 분기 매출이 40% 급증했다고 발표했다.
Sberbank가 432B 파라미터 규모의 GigaChat 3.5 모델과 GGUF 양자화 버전을 출시했다.
쿼리의 난이도와 역량을 분석해 최적의 저비용 모델로 연결하는 오픈소스 라우터 Brick이 출시되었습니다.
GitHub Copilot이 JetBrains IDE에서 커스텀 모델 지원 및 에이전트 기능 강화를 포함한 v1.12 업데이트를 출시했습니다.
코딩 에이전트의 복잡한 사고 과정(Reasoning Trace)을 구조화된 JSON 형식으로 요약하는 800M 파라미터 모델이 출시되었습니다.
추가 학습 없이 단계별 해상도 조절을 통해 Diffusion 모델의 추론 속도를 획기적으로 높이는 MrFlow 기술이 제안되었습니다.
토크나이저와 생성 모델을 결합하여 이미지 생성 학습 속도를 10배 향상시킨 GEAR 연구를 공개했다.
확산 기반 언어 모델(BD-LM)의 병렬 디코딩 성능을 높이기 위한 Multi-Block 방식의 MBD-LM을 제안한다.
Google Research가 별도의 미세 조정 없이 정형 데이터를 처리하는 TabFM 모델을 공개했다.
관계(Edge)를 단순 메타데이터가 아닌 독립된 임베딩 문서로 처리하는 새로운 지식 그래프 구조를 제안함.
llama.cpp에 확률 분포를 국소적으로 평활화하여 생성 품질을 높이는 Scatter 샘플러가 실험적으로 도입되었습니다.
가중치 접근 없이 Logit 값의 차이만으로 LLM 미세 조정 데이터를 원문 그대로 복구하는 CDD 기술이 발표되었습니다.
입력 데이터에 따라 압축 예산을 자동으로 조절하는 임계값 없는 KV Cache 압축 기술 ReFreeKV를 제안한다.
입력 데이터에 따라 최적의 블록 크기를 예측하여 Diffusion 기반 Speculative Decoding의 효율을 극대화하는 기술을 제안함.
MoE 모델의 전문가 지역성을 고려한 ELDR 라우팅을 통해 디코드 지연시간을 최대 13.9% 단축함.
AI 산업에 대한 막대한 투자 대비 수익성에 대한 우려가 커지는 가운데, AI 서비스의 단위당 사용 가격이 하락하고 있습니다.
AI Briefing