llama.cpp에 확률 분포를 국소적으로 평활화하여 생성 품질을 높이는 Scatter 샘플러가 실험적으로 도입되었습니다.
Anthropic의 Claude Mythos Preview 출시 이후 보안 취약점(CVE) 발견 건수가 급증함.
가중치 접근 없이 Logit 값의 차이만으로 LLM 미세 조정 데이터를 원문 그대로 복구하는 CDD 기술이 발표되었습니다.
텍스트 대신 이미지를 활용해 LLM 입력 토큰 수를 줄임으로써 API 비용을 획기적으로 절감하는 기술을 소개한다.
입력 데이터에 따라 압축 예산을 자동으로 조절하는 임계값 없는 KV Cache 압축 기술 ReFreeKV를 제안한다.
입력 데이터에 따라 최적의 블록 크기를 예측하여 Diffusion 기반 Speculative Decoding의 효율을 극대화하는 기술을 제안함.
MoE 모델의 전문가 지역성을 고려한 ELDR 라우팅을 통해 디코드 지연시간을 최대 13.9% 단축함.
AI 산업에 대한 막대한 투자 대비 수익성에 대한 우려가 커지는 가운데, AI 서비스의 단위당 사용 가격이 하락하고 있습니다.
Hugging Face가 허브를 사용하는 코딩 에이전트들의 이용 현황을 담은 공개 데이터셋을 출시했다.
Anthropic이 Claude Sonnet 5와 4.6 간의 지능 수준 매핑 가이드를 공개했다.
Google이 GitHub용 Gemini Code Assist의 컨슈머 버전을 7월 17일에 종료합니다.
자연어 명세를 경량화된 신경망 아티팩트로 컴파일하여 추론 비용을 획기적으로 낮추는 새로운 패러다임을 제안함.
Claude 등 AI 에이전트 활용을 위한 77개 오픈소스 메모리 시스템의 기능을 비교 분석한 데이터베이스가 공개되었습니다.
몰타 정부가 AI 리터러시 교육 이수자를 대상으로 ChatGPT Plus 1년 무료 이용권을 제공하는 정책을 시행한다.
AI 에이전트가 생성한 코드의 품질을 검증하기 위해 Playwright를 활용한 E2E 테스트 기반의 자가개선 루프 구축 방법을 소개한다.
Manticore Search가 ONNX Runtime 백엔드를 도입하여 임베딩 추론 속도를 기존 대비 평균 14배 향상시켰다.
다양한 LLM 공급업체를 하나의 엔드포인트로 연결하여 API 제한을 우회하는 오픈소스 게이트웨이가 공개되었습니다.
C++/GGML 기반 프레임워크인 audio.cpp가 음악 및 SFX 생성, 음원 분리 기능을 추가하며 대규모 업데이트를 실시했다.
AI 에이전트의 생산성을 극대화하면서도 통제 불가능성을 관리하기 위한 하네스 엔지니어링 방법론을 소개한다.
Vercel Sandbox에서 FUSE를 지원하여 S3와 같은 원격 저장소를 로컬 경로처럼 마운트할 수 있게 되었습니다.
AI Briefing