#intel-labs와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
토크나이저가 달라도 어떤 소형 모델로든 LLM 추론 속도를 높일 수 있는 기술이 개발되었다.
Intel Labs와 Hugging Face가 개발한 동적 추측 디코딩이 Transformers 라이브러리에 적용되어 생성 속도를 최대 2.7배 높인다.