AI Briefing#kernel-optimization
#kernel-optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#kernel-optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
PyTorch Helion이 컴파일 타임 휴리스틱으로 vLLM 커널 대비 1.27x 성능을 달성했다.
TVM과 Together Compiler는 AI 에이전트 최적화 시 안정적 IR과 검증 도구의 필요성을 입증했다.
GLM-5.3 기반 Infra Agent가 10만 개 이상의 중국산 가속기 클러스터에서 GLM-5.3-Flash 추론 인프라를 2주 미만 만에 구축해 엔드투엔드 서빙 성능을 약 3배 높였다.
네이버클라우드가 Helion DSL을 활용해 B200 GPU의 Mamba-2 커널을 최적화해 단일 레이어 연산 속도를 1.33배 높였다.
vLLM에서 Qwen3.8-Flash-Next의 temperature 0 비결정적 출력 문제를 sparse-attention kernel 수정으로 해결했다.
AWS는 Trainium 경쟁력 강화를 위해 AI 모델과 커널을 칩 설계와 함께 최적화한다.
KernelEvolve는 수백 개 후보를 탐색해 AI 커널 성능을 자동 최적화한다.
Hugging Face와 AMD가 협력하여 Llama 3.1 405B의 성능을 극대화하는 MI300X 전용 커스텀 커널을 공개했다.