llama.cpp가 멀티 GPU 환경에서 --sm tensor 사용 시 KV 캐시 양자화가 작동하지 않던 문제를 해결했습니다.
인텔이 최대 480GB VRAM을 갖춘 차세대 AI 워크로드용 GPU 'Crescent Island'를 공개했다.
시각과 언어를 통합해 GUI 및 CLI 작업을 수행하는 멀티모달 에이전트 Qwen3.7-Plus가 공개되었다.
Nvidia의 RTX Spark는 최대 128GB LPDDR5X 통합 메모리와 600GB/s의 대역폭을 제공할 전망이다.
Claude Code의 오작동을 방지하는 CLAUDE.md 설정 파일이 GitHub에서 큰 주목을 받고 있다.
코드 건강도 점수를 통해 Claude Code의 작업 정확도를 높이고 비용을 절감하는 MCP 도구 Repowise가 공개되었습니다.
NVIDIA의 RTX Spark 슈퍼칩 공개와 최초의 자율형 LLM 에이전트 사이버 공격 사례가 보고되었습니다.
DuckDuckGo가 AI 검색 기능이 없는 검색 환경을 기본으로 설정할 수 있는 브라우저 확장 프로그램을 출시했다.
플로리다주가 ChatGPT의 안전성 문제와 사회적 위해를 이유로 OpenAI와 Sam Altman을 상대로 소송을 제기했다.
llama.cpp에서 logits 공간 예약 방식을 개선하여 VRAM 사용량을 절감하는 Pull Request가 제안되었습니다.
MLE-Bench의 성능 향상이 알고리즘 발전보다 모델 성능 및 탐색량 증가에 기인한다는 분석과 함께 신규 벤치마크 FML-Bench가 공개되었다.
스탠퍼드 대학교가 트랜스포머 모델의 설계부터 학습, 평가까지 전 과정을 다루는 CS336 강의를 공개했다.
mistral.rs v0.8.2가 출시되어 H100 및 B200 등 최신 GPU에서 llama.cpp보다 최대 2.8배 빠른 CUDA 추론 성능을 제공한다.
LLM 에이전트가 보안 버그를 수정할 때, 테스트를 통과하지만 취약점을 남겨두는 '그럴듯한 오답'이 가장 위험하다는 연구 결과가 발표되었다.
GPU 클러스터의 자원 요구량을 정밀하게 예측하여 유휴 용량을 줄이는 Expanse를 출시했다.
LLM 호출 로깅, 비용 추적, 에이전트 트레이싱을 지원하는 오픈소스 관측 플랫폼 Spanlens가 공개되었다.
AI Briefing