AI Briefing#prismml
#prismml와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#prismml와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
ik_llama.cpp가 Ternary Bonsai 2의 네이티브 CUDA 오프로드를 지원했다
PrismML이 27B 멀티모달 LLM을 삼진 양자화해 FP16 대비 98.2%의 성능을 유지하는 'Ternary Bonsai 2 27B'를 공개했다.
PrismML이 Qwen 27B 모델을 1비트 및 삼진 방식으로 압축해 스마트폰에서도 구동 가능한 Bonsai 27B를 공개했다.
PrismML이 Qwen-3.6-27B 모델을 4GB 미만으로 압축하여 iPhone에서 구동하는 기술을 공개한다.
PrismML이 WebGPU를 통해 브라우저에서 로컬 실행이 가능한 1-bit/ternary 기반 Bonsai Image 4B 모델을 공개했다.
PrismML이 1.58비트 ternary weights로 8B·4B·1.7B LLM인 Ternary Bonsai를 공개했다.
PrismML이 성능 저하 없이 AI 모델을 에지 디바이스에서 구동할 수 있는 1-bit 압축 기술을 개발했다.