AI BriefingReddit 뉴스
Reddit에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Sberbank, GigaChat 3.5-432B 모델 공개
Sberbank가 432B 파라미터 규모의 GigaChat 3.5 모델과 GGUF 양자화 버전을 출시했다.
LLM 비용을 최대 22배 절감하는 오픈소스 라우터 'Brick' 공개
쿼리의 난이도와 역량을 분석해 최적의 저비용 모델로 연결하는 오픈소스 라우터 Brick이 출시되었습니다.
GitHub Copilot, JetBrains IDE 업데이트
GitHub Copilot이 JetBrains IDE에서 커스텀 모델 지원 및 에이전트 기능 강화를 포함한 v1.12 업데이트를 출시했습니다.
SupraLabs, 코딩 에이전트용 요약 모델 공개
코딩 에이전트의 복잡한 사고 과정(Reasoning Trace)을 구조화된 JSON 형식으로 요약하는 800M 파라미터 모델이 출시되었습니다.
MrFlow, Diffusion 추론 속도 최대 10배 가속
추가 학습 없이 단계별 해상도 조절을 통해 Diffusion 모델의 추론 속도를 획기적으로 높이는 MrFlow 기술이 제안되었습니다.
GEAR: 이미지 생성 효율을 10배 높인 end-to-end 학습법
토크나이저와 생성 모델을 결합하여 이미지 생성 학습 속도를 10배 향상시킨 GEAR 연구를 공개했다.
MBD-LM: 확산 기반 언어 모델의 병렬 생성 최적화
확산 기반 언어 모델(BD-LM)의 병렬 디코딩 성능을 높이기 위한 Multi-Block 방식의 MBD-LM을 제안한다.
Google, Tabular Foundation Model 'TabFM' 공개
Google Research가 별도의 미세 조정 없이 정형 데이터를 처리하는 TabFM 모델을 공개했다.
관계 자체를 임베딩하는 BaryGraph 공개
관계(Edge)를 단순 메타데이터가 아닌 독립된 임베딩 문서로 처리하는 새로운 지식 그래프 구조를 제안함.
llama.cpp에 새로운 'Scatter' 샘플러 추가
llama.cpp에 확률 분포를 국소적으로 평활화하여 생성 품질을 높이는 Scatter 샘플러가 실험적으로 도입되었습니다.
LLM 미세 조정 데이터 원문 복구 기술 CDD 공개
가중치 접근 없이 Logit 값의 차이만으로 LLM 미세 조정 데이터를 원문 그대로 복구하는 CDD 기술이 발표되었습니다.
ReFreeKV: 적응형 KV Cache 압축 기술
입력 데이터에 따라 압축 예산을 자동으로 조절하는 임계값 없는 KV Cache 압축 기술 ReFreeKV를 제안한다.
BlockPilot: 추론 속도를 높이는 적응형 블록 크기 예측
입력 데이터에 따라 최적의 블록 크기를 예측하여 Diffusion 기반 Speculative Decoding의 효율을 극대화하는 기술을 제안함.
MoE 서빙 지연시간을 줄이는 ELDR 라우팅 기술
MoE 모델의 전문가 지역성을 고려한 ELDR 라우팅을 통해 디코드 지연시간을 최대 13.9% 단축함.
AI 서비스 단위당 사용 가격 하락세
AI 산업에 대한 막대한 투자 대비 수익성에 대한 우려가 커지는 가운데, AI 서비스의 단위당 사용 가격이 하락하고 있습니다.