AI Briefing#context-window
#context-window와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#context-window와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
LLM 컨텍스트 윈도우는 단일 요청 처리 가능한 토큰 총량이지만, 긴 입력일수록 중간 정보 인출률이 떨어지는 'Lost in the Middle' 현상이 발생하므로 선별적 관리가 중요하다.
AI CLI 환경에서 모델 전환과 세션 초기화 시 컨텍스트를 보존하는 로컬 우선 SQLite 기억 엔진 Engrim이 공개됐다.
카카오페이 개발자가 LLM과 Agent의 차이, ReAct 패턴, 토큰 및 컨텍스트 윈도우 등 AI Agent 도입 시 필수적인 핵심 개념을 정리했다.
긴 컨텍스트가 모델의 활성화 상태를 변화시켜 RLHF 기반의 안전 제약을 약화시킨다는 연구 결과가 발표되었다.
OpenAI가 Codex 0.144 릴리스를 위해 모델 컨텍스트 크기를 372k에서 272k로 줄이는 변경 사항을 백포트했다.
OpenAI가 Codex 모델의 컨텍스트 창 크기를 기존 372k에서 272k로 하향 조정했습니다.
llama.cpp가 에이전트 작업 시 컨텍스트 체크포인트가 과도하게 생성되어 성능이 저하되던 버그를 수정했습니다.
소형 LLM을 활용해 RAG 컨텍스트의 68%를 제거하면서도 재현율 96%를 유지하는 기술을 소개한다.
KV 캐시를 압축하여 RAM이나 디스크에 저장함으로써 모델의 컨텍스트 길이를 획기적으로 확장하는 InfiniteKV가 공개되었습니다.
MiniMax가 100만 토큰 컨텍스트와 멀티모달 기능을 갖춘 M3 모델을 출시하고 10일 내 가중치를 공개한다.
Subquadratic가 SSA로 1200만 토큰 컨텍스트 윈도와 GPT-5.5를 넘는 MRCR v2 83점을 내세웠다.