#long-context
#long-context와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#long-context와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Meta가 1M 컨텍스트 검색 성능과 코딩 효율을 대폭 개선한 AI 모델 Muse Spark 1.3을 공개했다.
새 연구에서 슬라이딩 윈도우 어텐션이 장문 추론 벤치마크에서 선형 어텐션보다 2~10배 높은 성능을 기록해 후처리 필요성을 제기했다.
Chunked KL loss가 32K 컨텍스트에서 Knowledge Distillation 메모리를 약 85GB에서 5GB로 줄였다.
긴 정책 문서를 준수하며 복잡한 업무를 수행하는 AI 에이전트의 능력을 평가하는 새로운 벤치마크 HANDBOOK.md를 공개했다.
AI 에이전트가 장문의 정책 문서를 준수하며 작업을 수행하는지 평가하는 새로운 벤치마크 Handbook.md가 공개되었다.
Liquid AI가 CPU 환경에서도 빠른 장문 컨텍스트 처리가 가능한 LFM2.5 인코더 모델 2종을 출시했다.
inclusionAI가 128K 컨텍스트와 Levenshtein Editing을 지원하는 에이전트 지향 확산 언어 모델 LLaDA2.2-flash를 공개했다.
Upstage가 250B 규모의 오픈웨이트 MoE 모델 Solar Open 2를 공개하며 에이전틱 워크플로우와 1M 토큰 컨텍스트를 지원한다.
독일 연구 컨소시엄이 완전 오픈소스 LLM 벤치마크에서 OLMo 3, Apertus를 능가하는 Soofi S 30B 모델을 공개했다.
LG AI Research가 성능과 효율성을 극대화한 EXAONE 3.5 오픈소스 모델 3종을 공개했다.
LG AI연구원이 성능과 경제성을 모두 잡은 EXAONE 3.5 모델 3종을 오픈소스로 공개했다.
Moonshot AI의 Kimi K3가 Vercel AI Gateway에서 사용 가능해졌다.
MiniMax M3는 Sparse Attention 기술을 통해 긴 문맥에서도 비용과 연산량을 획기적으로 줄여 장기 실행 에이전트 구현을 가능하게 한다.
Deep Agents가 RLM과 동적 subagent를 도입하여 대규모 컨텍스트 처리 성능을 개선했다.
Qwen 팀이 어텐션 헤드 단위로 FA와 LA를 결합해 긴 문맥 처리 성능을 높인 HydraHead 아키텍처를 발표했다.
MiniMax가 대규모 문맥 처리를 위해 연산 효율을 극대화한 새로운 희소 어텐션 기술인 MSA를 발표했습니다.
500만 토큰의 긴 컨텍스트 길이를 지원하는 silx-ai의 Quasar-Preview 모델이 Hugging Face에 공개되었습니다.