AI Briefing#ternary-bonsai
#ternary-bonsai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ternary-bonsai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
PrismML이 27B 멀티모달 LLM을 삼진 양자화해 FP16 대비 98.2%의 성능을 유지하는 'Ternary Bonsai 2 27B'를 공개했다.
llama.cpp의 ggml 라이브러리가 Ternary Bonsai 모델 지원을 위한 CPU용 Q2_0 양자화를 추가했습니다.
PrismML이 1.58비트 ternary weights로 8B·4B·1.7B LLM인 Ternary Bonsai를 공개했다.