AI Briefingggml v1.0.0 출시, FP8 지원 및 백엔드 최적화 포함
·2026.11.14 11:28
핵심 내용
ggml v1.0.0이 FP8 지원과 백엔드 최적화를 포함해 출시했다.
자세히 보기
- ggml v1.0.0은 비공식 공개 API와 레거시 DIAG_MASK 작업을 제거하고 FP8 지원 및 YaRN 절단 설정을 도입한 마일스톤 릴리스임
- CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU, CPU 등 주요 백엔드 전반에 걸쳐 성능 최적화가 적용됨
- RPC 프로토콜이 버전 9로 업데이트되어 로딩 속도가 개선되고 핸드셰이크 실패가 적절히 처리됨
- CUDA 백엔드에 OCP FP8, NVFP4 게이트/업 매트릭스 곱, 특정 헤드 크기에 대한 FlashAttention 확장 지원이 추가됨
- Metal 백엔드에 MoE 라우팅 퓨전이 구현되고 GROUP_NORM 및 FlashAttention 커널의 범위 밖 접근 오류가 수정됨
- Vulkan 백엔드에 Intel FlashAttention 프리필 커널이 추가되고 RDNA3/4를 위한 대형 타일 스플릿-K 최적화가 활성화됨
- CPU 백엔드에서 MUL_MAT이 F32 src1로 전환되고 SpacemiT 및 ARM NEON 아키텍처를 위한 특정 커널이 추가됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
