AI Briefing#hybrid-attention
#hybrid-attention와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#hybrid-attention와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Hugging Face에 공개된 Agnes-3.0-Flash 33B 모델이 하이브리드 어텐션 구조와 262k 컨텍스트를 지원한다.
Z.ai가 18B 활성 파라미터의 GLM-5.3-Flash를 공개하며 10분의 1 비용으로 Claude Opus 4.8에 근접한 성능을 달성했다.
Qwen 팀이 어텐션 헤드 단위로 FA와 LA를 결합해 긴 문맥 처리 성능을 높인 HydraHead 아키텍처를 발표했다.
Hybrid-attention 모델의 작은 KVCache를 활용해 prefill을 데이터센터 밖으로 뺀다.