AI Briefing#edge-ai
#edge-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#edge-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA Alpamayo 2 Edge 최적화로 Jetson AGX Thor에서 45ms 지연과 초당 20회 의사결정 달성했다
Embedl의 최적화 모델이 AGX Thor에서 PyTorch보다 10배 빠르게 동작한다.
ExecuTorch WebGPU 백엔드가 브라우저에서 PyTorch 모델을 직접 실행한다
DeepX가 5W 전력으로 1000억 파라미터 LLM 구동이 가능한 DX-M2 칩 테이프아웃을 완료했다.
BigMoeOnEdge가 16GB 노트북에서 125B MoE 모델을 플래시 저장소에 배치해 실행한다
Cactus Compute의 Mirage가 22 MB로 모바일에서 74 ms 시각 분석을 수행했다.
NVIDIA가 DGX Spark에서 DSpark 적용 시 Nemotron 3.5 Lightning 생성 속도가 최대 1.73배 빨라진다고 밝혔다.
NVIDIA가 RTX 및 Jetson 등 엣지 디바이스용 4GB 모델 Nemotron 3.5 Bolt E4B를 출시했다.
Liquid AI가 2B 규모 LFM3 모델 6종을 공개하며 엣지 기기 실행과 멀티모달 처리를 지원한다.
NVIDIA가 1200억 파라미터 오픈 모델 Nemotron 3.5 Super VL과 엣지용 Bolt 모델을 공개했다.
Stepped MoE 프레임워크가 1~4B 파라미터를 동적으로 지원하며 벤치마크에서 2~5% 성능을 개선했다.
Neuphonic이 음성에서 도구 호출로 변환하는 43 MB 오픈소스 모델 NeuDecide를 공개했다.
Cactus Compute가 16.9MB 온디바이스 음성 인식 모델 Whistle을 공개했다.
구글이 Apache 2.0 라이선스의 Gemma 4로 스타트업의 지연 시간과 인프라 비용을 줄인다고 밝혔다.
SupraLabs가 엣지 디바이스와 CPU 추론을 겨냥한 29.6M 파라미터 SupraTTS-0.1-Beta를 공개했다.
Liquid AI가 LFM2.5-VL-3B 추론을 최대 3.13배 가속하는 280M 파라미터 드래프트 모델을 공개했다.
Next GenAi가 데이터 정제에 집중한 엣지 배포용 오픈소스 LLM 'Rebekah 1.8B'를 공개했다.
PrismML이 27B 멀티모달 LLM을 삼진 양자화해 FP16 대비 98.2%의 성능을 유지하는 'Ternary Bonsai 2 27B'를 공개했다.
Cactus Compute가 29MB~121MB 크기의 초소형 파운데이션 모델 'Needle 3'를 공개했으며, 4레이어 서브네트워크가 DeepSeek V4 Flash와 동등한 자동화 성능을 달성했다고 밝혔다.