AI Briefing#sglang
#sglang와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#sglang와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
RadixArk가 대규모 LLM 강화학습(RL) 사후 학습을 위해 SGLang, Megatron-LM, Ray를 통합한 오픈소스 프레임워크 Miles를 공개했다.
Z Lab과 Modal이 협력하여 개발한 DFlash 기술이 기존 MTP 방식보다 월등한 LLM 추론 성능을 달성했다.
KV Cache의 양자화 손실을 줄이기 위해 스펙트럼 공분산 인지 회전을 사용하는 OSCAR 기술이 공개되었습니다.
Alibaba T-Head의 asllm 엔진이 오픈소스 sglang를 무단 사용하고 심각한 버그를 방치하고 있다는 분석이 제기되었다.
Amazon이 Chinchilla scaling law를 확장해 정확도 손실 없이 LLM 속도를 높이는 프레임워크를 제시했다.
Qwen3.6은 에이전트 코딩과 사고 맥락 보존을 강화한 최신 Qwen 모델군이다.
확산 LLM이 AR 수준 품질과 병렬 생성 속도를 함께 달성했다.
I-DLM은 introspective consistency로 DLM의 품질과 속도를 동시에 끌어올린다.
SGLang이 Transformers 백엔드를 지원하여 모든 Transformers 호환 모델을 고성능으로 추론할 수 있게 되었다.