AI Briefing#fp8
#fp8와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#fp8와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
StepFun이 600B MoE 모델 Step 5 Preview 가중치를 공개하고 H200 8장 구동 가능함을 확인했다.
PyTorch 2.15가 Mac GPU MoE 디코딩을 5~6.5배 향상시키고 FP8을 지원한다.
PyTorch 2.15가 FP8 지원과 Metal 최적화로 Mac에서 MoE 디코딩 속도를 5~6.5배 높였다
OpenDLSS-NR이 DLSS 5 신경망의 71블록 구조를 FP8으로 비트 단위 재현했다.
PCIe 기반 VLA 학습에서 FP8 전송으로 바이트를 48.4% 줄였으나, 병합 후 직렬 처리로 인해 critical path에 포함되면서 step time이 오히려 증가한 것으로 나타났다.
DeepLearning.AI에서 vLLM을 활용한 효율적인 LLM 추론 최적화 과정을 공개했다.
AMD MI300X에서 DeepSeek-V4-Flash를 구동할 때 발생하는 FP8 표준 불일치 및 커널 최적화 문제를 분석한다.
Qwen 3.6 27B를 Opus CoT·Hermes tool-calling SFT로 개조해 FP8로 공개했다.
Furiosa SDK 2026.1이 배칭·캐싱·Kubernetes 지원을 강화했다.
Hugging Face와 AMD가 협력하여 Llama 3.1 405B의 성능을 극대화하는 MI300X 전용 커스텀 커널을 공개했다.
diffusers 라이브러리와 QLoRA를 활용해 10GB 미만의 VRAM으로 FLUX.1-dev 모델을 효율적으로 미세 조정하는 방법을 소개한다.
Stability AI가 NVIDIA와 협력하여 TensorRT로 최적화된 Stable Diffusion 3.5 모델을 공개해 성능을 최대 2.3배 높였다.
Hugging Face의 분산 학습 프레임워크인 Accelerate가 1.0.0 버전 출시를 발표했다.
Hugging Face 가이드를 통해 Llama 3.1 405B를 Google Cloud Vertex AI에 배포하는 방법을 안내한다.
Hugging Face가 NVIDIA 플랫폼에서 LLM 추론 속도를 최대 28배 높여주는 Optimum-NVIDIA 라이브러리를 출시했다.