AI Briefing5.21.12주 전
Patch release v5.21.1
핵심 내용
vLLM 원격 코드 로딩을 깨뜨렸던 rope_scaling 설정 오류를 수정한 패치 릴리스입니다.
자세히 보기
- 버그 수정: 초기화 과정에서
rope_scaling을 할당하는 설정에서 setter가 잘못 동작하여 vLLM의 원격 코드 로딩이 깨지던 문제를 수정했습니다.
huggingface/transformers
Transformers는 텍스트, 이미지, 오디오, 비디오, 멀티모달 모델의 정의와 사용을 통합하는 Hugging Face의 핵심 Python 라이브러리다. 연구자, ML 엔지니어, 애플리케이션 개발자가 사전학습 모델을 불러오고, 학습·추론·서빙 파이프라인에 연결하는 데 사용한다. 이 패키지의 릴리스는 새로운 모델 지원, API 호환성, 그리고 PyTorch/JAX/TF 및 다양한 추론·학습 생태계와의 연동 안정성에 직접적인 영향을 준다.
vLLM 원격 코드 로딩을 깨뜨렸던 rope_scaling 설정 오류를 수정한 패치 릴리스입니다.
rope_scaling을 할당하는 설정에서 setter가 잘못 동작하여 vLLM의 원격 코드 로딩이 깨지던 문제를 수정했습니다.