#long-context

#long-context와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

KVarN: Huawei가 개발한 vLLM 네이티브 KV-cache 양자화 백엔드

Huawei가 vLLM의 용량과 처리량을 동시에 개선하는 새로운 KV-cache 양자화 백엔드 KVarN을 공개했다.

·2026.06.05 00시

추천VLM은 한국 공공기관 문서를 얼마나 잘 읽을까? KOLongDoc 벤치마크 공개

한국어 긴 공공기관 문서 이해 능력을 평가하기 위한 VLM 벤치마크 KOLongDoc이 공개되었다.

·1·2026.06.04 15시

MiniMax, 새로운 sparse attention 메커니즘과 15.6배 빠른 long-context 응답 속도를 갖춘 M3 모델 공개 예고

MiniMax가 새로운 sparse attention 메커니즘을 도입해 long-context 응답 속도를 15.6배 높인 M3 모델을 예고했다.

·1·2026.05.29 09시

Agent Judge: 프로덕션 에이전트의 롱 컨텍스트 평가 문제 해결

기존 LLM 판사의 한계를 극복하기 위해 외부 시스템 검증이 가능한 에이전트 방식의 Agent Judge가 필요하다.

·1·2026.05.29 09시

RTPurbo: Full Attention의 Sparse 전환

수백 번의 짧은 학습만으로 Full Attention LLM을 고효율 Sparse 모델로 변환하는 RTPurbo 기술이 공개되었다.

·1·2026.05.26 00시

LLM 아키텍처의 최근 동향: KV 공유, mHC, 그리고 압축 어텐션

최신 오픈 웨이트 LLM들이 장문 컨텍스트 효율성을 위해 KV 캐시 압축과 어텐션 최적화 기법을 도입했다

·1·2026.05.23 09시

SANA-WM, 1분짜리 720p 비디오를 위한 2.6B open-source world model

NVIDIA가 1분 720p 비디오용 2.6B open-source world model을 공개했다.

·2026.05.16 21시

LLM 아키텍처의 최근 동향: KV 공유, mHC, 압축 Attention

Gemma 4와 DeepSeek V4를 비롯한 오픈웨이트 LLM들은 KV 공유와 압축 Attention으로 장문 컨텍스트 비용을 낮춘다.

·1·2026.05.16 20시

δ-Mem: 대형 언어 모델을 위한 효율적 온라인 메모리

고정 크기 온라인 메모리로 LLM 장기 기억 성능을 개선했다.

·2·2026.05.16 18시

LLM source-boundary 실패

source 경계를 명시해야 LLM이 답변 근거로 쓸 수 있는 텍스트를 구분했다.

·1·2026.05.14 02시

Ovis2.6 80B-A3B 공개

Ovis2.6-80B-A3B가 MoE 기반 멀티모달 모델로 공개됐다.

·1·2026.05.13 21시

Lighthouse Attention 기법

선택형 계층적 attention으로 512K 컨텍스트에서 표준 attention보다 약 17배 빨랐다.

·2·2026.05.13 00시

MSA, 1억 토큰 메모리 모델 발표

MSA는 1억 토큰까지 확장하는 메모리 스파스 어텐션을 발표했다.

·2026.05.07 02시

DeepSeek V4 - 프런티어급에 거의 근접했고 가격은 훨씬 저렴하다

DeepSeek가 V4-Pro와 V4-Flash 프리뷰를 공개하며 가격 경쟁력을 강조했다.

·2·2026.05.03 02시

FOSS vs SOTA 장문 벤치마크

Artificial Analysis의 Long Context 벤치마크로 FOSS와 SOTA를 비교했다.

·1·2026.05.03 01시

Gemma 4 26B NVFP4 공개

NVIDIA가 Gemma 4 26B 모델의 NVFP4 양자화 체크포인트를 공개했다.

·1·2026.05.01 12시

AutoSP 소개

AutoSP는 DeepSpeed 컴파일러로 긴 컨텍스트 학습의 Sequence Parallelism을 자동화한다.

·2026.04.30 09시

dirac-run/dirac

오픈소스 코딩 에이전트 Dirac이 Terminal-Bench-2 65.2%와 8/8 성적을 냈다.

·2026.04.28 17시

DeepSeek, V4-Pro 가격 75% 인하

DeepSeek가 V4-Pro 가격을 75% 인하하고 API cache-hit 비용도 10분의 1로 낮췄다.

·1·2026.04.28 09시

16GB VRAM서 Qwen3.6-27B 10만 컨텍스트

A5000 16GB에서 Qwen3.6-27B를 IQ4_XS로 10만 컨텍스트까지 구동했다.

·1·2026.04.26 05시

DeepSeek-V4 공개

DeepSeek이 1M 토큰 컨텍스트를 지원하는 V4 모델군을 공개했다.

·1·2026.04.24 18시

DeepSeek-V4 시리즈 공개

DeepSeek-V4 프리뷰가 공개돼 1.6T MoE와 1M 컨텍스트를 지원한다.

·1·2026.04.24 13시

DeepSeek-V4, 100만 토큰 컨텍스트

DeepSeek-V4가 100만 토큰 컨텍스트와 에이전트 최적화를 공개했다.

·2·2026.04.24 09시

장기컨텍스트용 Sessa

Sessa는 attention을 recurrent feedback path에 넣는 장기 컨텍스트용 decoder architecture다.

·2026.04.23 23시