AI Briefing#model-compression
#model-compression와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-compression와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Video Rebirth가 13.7B 파라미터의 HyperFlow H3 Flash를 공개했다.
합성 데이터로 학습한 360M 모델이 터미널 시뮬레이션에서 기존 베이스라인을 상회했다
Bonsai 3진법 모델이 FP16 지능의 98.2%를 유지하며 27B급 추론을 노트북에서 실행한다.
Apple이 라텐트 공간 증류로 오디오 인코더를 2.8배 압축했으며, WER 오차는 1.9% 이내로 유지했다.
워털루대 연구팀이 영어 텍스트 설명을 로컬에서 실행 가능한 소형 Neural Program으로 컴파일하는 오픈소스 프레임워크 PAW를 공개했다.
Cerebras가 공개 엔드포인트에서 Qwen 3.8 27B 모델을 초당 약 1,500토큰의 속도로 제공하기 시작했다.
NVIDIA가 양자화, 가지치기 등 6가지 최적화 기법을 통합한 Model Optimizer를 공개하여 vLLM, TensorRT-LLM 등 추론 엔진용 체크포인트 생성을 지원한다.
확장된 모델 사전 학습과 추적을 통합한 IDEA Prune 파이프라인이 LLM 압축 성능을 개선했다.
동적 구조적 프루닝을 통해 밀집 LLM을 MoE로 변환하여 성능 저하 없이 활성 파라미터를 줄이는 ToMoE 기법이 공개됐다.
LLM의 효율성을 극대화하기 위해 잔차를 활용하여 정확도를 높인 이진화 학습 기술인 RaBiT를 제안한다.
LG AI Research가 ICLR 2024에서 필터 프루닝과 저계수 분해를 결합한 새로운 모델 압축 기술인 LeSS를 선보였다.
PrismML이 Qwen-3.6-27B 모델을 4GB 미만으로 압축하여 iPhone에서 구동하는 기술을 공개한다.
입력 데이터에 따라 압축 예산을 자동으로 조절하는 임계값 없는 KV Cache 압축 기술 ReFreeKV를 제안한다.
모델 압축 기술에서 시작된 증류(Distillation)가 현재는 모델의 추론 능력을 전수하는 핵심 기술이자 저작권 논쟁의 중심이 되었다.
Sana 1.6B 텍스트-이미지 모델을 1.58비트 삼진법(Ternary)으로 양자화하여 크기를 8.6배 줄였다.
Moebius는 LλMI 블록과 적응형 증류 전략을 통해 파라미터 수를 2% 미만으로 줄이면서도 대규모 모델에 필적하는 성능을 내는 경량 인페인팅 프레임워크다.
MoE 모델을 엣지 디바이스에서 구동할 수 있도록 최적화하는 InstinctRazor 기술을 공개했다.
Google이 모바일 및 에지 기기에서 Gemma 4를 효율적으로 실행할 수 있도록 QAT 기술을 적용한 최적화 모델을 출시했다.
NVIDIA가 단일 체크포인트에서 다양한 크기의 모델을 추출할 수 있는 Star Elastic 기술을 공개했다.