Apple Silicon에서 Ollama보다 최대 4.2배 빠른 추론을 지원하는 MLX 기반 로컬 AI 엔진입니다.
AutoTTS는 오프라인 replay 환경에서 코드 탐색만으로 Test-Time Scaling 정책을 찾는다.
NTM은 reverse step을 normalizing flow로 학습해 4-step 생성과 exact likelihood를 함께 노린다.
llama.cpp가 MTP와 멀티모달 기능의 충돌을 해결하고 통합을 지원하기 위한 업데이트를 진행 중이다.
AI 코딩 도구의 발전으로 Rust, Go 등 고성능 언어의 개발 장벽이 낮아지며 소프트웨어 개발 패러다임이 변화하고 있다.