AI Briefing#on-device-ai
#on-device-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#on-device-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Edge0-145B가 노트북에서 80+ tokens/s 속도로 구동되며 클라우드 모델 대비 우위를 보였다
Tether AI가 Qwen3.5-0.8B 기반 BotPsy-0.8B를 공개하며 2B 모델 대비 우월한 도구 사용 성능을 입증했다.
Liquid AI의 LiquidCodec이 M4 Max에서 361배 실시간 인코딩 속도를 달성했다
ExecuTorch WebGPU 백엔드로 PyTorch 모델이 브라우저에서 4~7배 빠르게 실행된다
131M 파라미터 모델이 6개 언어 지원과 함께 0.85% WER을 달성했다
Gradium의 Phonon TTS가 Hugging Face CPU 스트리밍 벤치마크 1위를 차지했다.
Private Mind 앱이 LFM3 모델 지원으로 iPhone 16 Pro에서 초당 40 토큰 처리 속도를 달성했다
M6 기반 iMac은 온디바이스 AI 첫 토큰 생성 속도가 M4 대비 최대 5배 빨라졌다.
Apple이 27.2 업데이트를 통해 Siri AI의 한국어 지원을 시작하며 온디바이스 처리로 개인정보 보호를 강화했다.
Apple Core Advanced 모델이 Mac에서 약 2GB RAM과 오픈 모델 대비 1/3 에너지를 사용한다
Opposable이 2B 모델로 Android 앱을 로컬 제어하며 M2 CPU에서 7.3초 스텝 시간을 달성했다
Spark-X2.6-4B가 9B급 성능을 내며 추론 예산을 제어할 수 있다
퀄컴 CEO는 2028년까지 스마트폰에서 1000억 매개변수 AI 모델 실행이 필요하다고 밝혔다.
삼성전자 영국 연구소가 기기 내 LLM 추론 정확도를 높이는 CG-TTRL 프레임워크를 공개했다.
OpenBMB가 3GB 메모리로 스마트폰에서 실행되는 35B MoE 멀티모달 모델 MiniCPM-V 4.7을 공개했다.
Private Mind가 Qwen 3 1.7B용 온디바이스 웹 검색 기능을 출시했다.
Liquid AI가 온디바이스 에이전트용 LFM2.5-24B-A2B를 공개했다.
Google의 EmbeddingGemma 2 기반 도구가 M3 MacBook Air에서 1시간 오디오를 12.6초 만에 전사한다.
Liquid AI가 온디바이스 에이전트용 MoE 모델 LFM2.5-24B-A2B를 공개했다.
OpenBMB가 iPhone 17 Pro Max에서 13+ tokens/s 속도를 내는 MoE 비전 모델 MiniCPM-V 4.7을 출시했다.