AI Briefing#self-speculative-decoding
#self-speculative-decoding와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#self-speculative-decoding와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
GLM-OCR 기반 GravityOCR은 추가 파라미터 없이 디코딩 속도를 1.32배 높이고 정확도는 95.16점으로 유지했다.
동일 모델의 초기 레이어를 활용해 텍스트 생성 속도와 메모리 효율을 높이는 Self-Speculative Decoding 기술을 소개한다.