AI BriefingReddit 뉴스
Reddit에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →llama.cpp, CUDA용 FWHT로 추론 속도 개선
llama.cpp에 CUDA 기반 FWHT가 추가되어 KV-cache 양자화 시 추론 속도가 향상되었습니다.
Anthropic, 신규 모델 'Mythos 1' 준비 중
Anthropic의 신규 모델 'Mythos 1'이 Claude Code 및 Claude Security에 도입될 것으로 보입니다.
llama.cpp, 멀티 GPU 충돌 수정 예정
llama.cpp에서 멀티 GPU 사용 시 발생하는 Split Mode Tensor의 VRAM 고갈 및 충돌 문제를 해결하는 패치가 준비 중이다.
Delta Attention Residuals 기술 공개
기존 잔차 연결의 라우팅 붕괴 문제를 해결하여 LLM 성능을 높이는 Delta Attention Residuals가 공개되었다.
AI 엔진별 인용 URL 추적 MCP 출시
Claude, ChatGPT 등 주요 AI 엔진의 인용 URL을 추적하고 Google Search Console 데이터와 비교할 수 있는 오픈소스 MCP 서버가 공개되었습니다.
RTPurbo: Full Attention의 Sparse 전환
수백 번의 짧은 학습만으로 Full Attention LLM을 고효율 Sparse 모델로 변환하는 RTPurbo 기술이 공개되었다.
Llama 3.3 가드레일 10분 제거
Financial Times가 Llama 3.3의 가드레일을 10분 만에 제거할 수 있는 도구 'Heretic'을 보도했다.
NuExtract3: 문서 추출용 4B VLM 공개
Qwen3.5-4B 기반의 문서 데이터 추출 및 Markdown 변환 특화 VLM인 NuExtract3가 공개되었습니다.
NuExtract3: 문서 추출 및 변환 모델
문서 이해와 구조화된 정보 추출에 특화된 4B 규모의 비전-언어 모델 NuExtract3가 공개되었습니다.
MLX용 W8A8 양자화 SDK 'Cider' 공개
MLX의 한계를 보완하여 Apple Silicon에서 W8A8 활성화 양자화를 지원하는 SDK 'Cider'가 공개되었다.
llama.cpp, 컨텍스트 재처리 최적화
llama.cpp에서 컨텍스트 변경 시 전체 프롬프트를 다시 처리하는 문제를 해결하기 위한 체크포인트 기능이 제안되었습니다.