AI Briefing#pytorch
#pytorch와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#pytorch와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Keras 3로 구축된 사전 학습 모델 모음 ZeroModels가 공개되어 JAX, PyTorch, TensorFlow에서 실행 가능하다.
구글이 PyTorch의 JAX 변환과 커널 최적화를 돕는 Gemini 기반 TPU 개발 에이전트 도구를 공개했다.
비선형 RNN의 병렬 훈련을 지원하는 오픈소스 라이브러리 ParaRNN이 공개되어 최대 200배 속도 향상을 달성했다.
PyTorch 2.14가 NVGEMM 백엔드와 분산 학습 내결함성 기능을 추가하고 torchvision의 ABI 안정성을 확보하며 정식 출시됐다.
Meta가 온디바이스 에이전틱 워크플로우를 위한 Muse Glimmer 모델과 ExecuTorch 지원을 공개했다.
Molt는 에이전트 자체를 프로그램으로 취급하여 대규모 모델 학습을 지원하는 PyTorch 기반 강화학습 프레임워크다.
초소형 TTS 모델 Inflect-Nano-v2를 특정 목소리나 언어로 학습할 수 있는 파인튜닝 툴킷이 출시되었습니다.
PyTorch Monarch가 AMD Instinct GPU와 ROCm 환경으로 확장되어 대규모 분산 학습의 결함 허용 능력을 강화한다.
PyTorch 스타일로 고성능 TPU 커널을 작성할 수 있는 고수준 DSL인 Helion이 공개되었습니다.
PyTorch Foundation이 PyTorch, vLLM 등 6개 프로젝트의 최신 성과와 로드맵을 공개했다.
NVIDIA가 대규모 MoE 모델의 에이전트 학습을 위해 설계된 PyTorch 네이티브 RL 프레임워크 Molt를 공개했습니다.
PyTorch Monarch가 AMD GPU의 ROCm 환경을 지원하며 노드 장애 시에도 중단 없는 탄력적 분산 학습을 가능하게 한다.
RadixArk가 대규모 LLM 강화학습(RL) 사후 학습을 위해 SGLang, Megatron-LM, Ray를 통합한 오픈소스 프레임워크 Miles를 공개했다.
Meta는 Python 생태계의 지속 가능성을 위해 Python Software Foundation(PSF)을 10년째 후원하며 기술적 투자를 이어가고 있다.
PyTorch Profiler를 활용해 MLP 구조에서 발생하는 오버헤드를 분석하고 Fused MLP를 통한 최적화 방법을 설명한다.
Apple silicon에서 AI 모델을 최적화하고 온디바이스로 실행하기 위한 새로운 Core AI 프레임워크가 공개되었습니다.
스탠퍼드 CS336 과정에서 AI 코딩 도구가 단순 해법 생성기가 아닌 학습 조교 역할을 하도록 규정한 지침이다.
스탠퍼드 CS336 과정은 데이터 정제부터 Triton 기반 FlashAttention2 구현, DPO 정렬까지 LLM 개발 전 과정을 다룬다.
PyTorch 모델의 성능 병목을 파악하고 최적화하기 위한 torch.profiler 사용법을 다룬 가이드 시리즈의 첫 번째 글이다.