#long-context
#long-context와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#long-context와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
DeepSeek V4 KV-cache 압축이 토큰 위상별 결정론적 검색 실패를 유발했다.
Weighted state souping이 장문 컨텍스트 작업의 성능을 크게 향상시켰다
Ant Ling이 1M 컨텍스트를 지원하는 Ling-3.2-flash를 출시했다
Muir가 32K 컨텍스트에서 Splash Attention보다 2.7배 빠르게 학습했다
Memorilla가 토큰을 108배 줄이고도 8개 벤치마크 중 5개에서 기존 방식보다 뛰어난 성능을 보였다
프런티어 오픈웨이트 모델에서 후속 토큰 생성 비용이 초기 토큰 대비 최대 7배까지 차이 난다
AI2의 StateBench에서 프런티어 모델이 복잡한 상태 추적에서 실패함을 확인했다
SenseNova-Loop-9B-Preview가 256K 컨텍스트와 루프 디코더를 지원한다
DiffuSpace가 35B MoE 구조와 128K 컨텍스트를 갖춘 Clover-35B-A3B-Preview를 출시했다.
Mirendil의 Fern이 10M 토큰 컨텍스트를 지원하며 에이전틱 코딩에 특화됐다.
GPT-6.1 Terra가 100만 토큰 컨텍스트와 고속 모드를 지원하며 AI Gateway에 출시했다.
Kimi K3.1 Pro가 100만 토큰 컨텍스트와 8.3% 환각률로 성능을 입증했다.
LambdaDB 파이프라인이 토큰을 95% 절감하며 LongMemEval 정확도 96.0%를 달성했다.
inclusionAI가 124B 의료 특화 MoE 모델 Ling-3.0-flash-Sante를 공개했다
Agnes AI가 1M 컨텍스트를 갖춘 180B MoE 모델 agnes-3.0-qwen을 출시했다
32K 컨텍스트 지원 및 Apache 2.0 라이선스로 상업적 사용이 가능한 영어 전용 모델이다.
TypeSafe AI의 Jev 1.14가 AI Gateway에 출시되어 이미지 입력과 실험적 긴 컨텍스트 모드를 지원한다.
Aleph Alpha가 100만 토큰 컨텍스트를 지원하는 오픈 웨이트 MoE 모델 Kolibri를 공개했다.
AlephAlpha가 주권 AI용 오픈소스 MoE 모델 Kolibri를 공개했다.
CoWA와 MALA가 128K 토큰에서 최대 8.6배 어텐션 속도 향상을 달성하며 FullAttn과 유사한 성능을 유지했다.
토큰 수와 무관한 고정 크기의 이중 연상 메모리를 활용해 장문 컨텍스트를 처리하는 LLM 아키텍처 WarpState가 공개됐다.