llama.cpp, 멀티 드라이브 모델 샤드 로딩 기능 추가

feat: external PLE file loading by pwilkin · Pull Request #31185 · ggml-org/llama.cpp

·2026.11.10 16:26

핵심 내용

llama.cpp가 멀티 드라이브 샤드 로딩과 외부 PLE 파일 지원을 추가했다

여러 위치에서 모델 샤드를 로드할 수 있는 새 --shard 명령줄 인자 추가, 다양한 제공업체나 다른 양자화 버전의 조각을 결합할 수 있음
--ple 플래그를 통해 별도 GGUF 파일에서 PLE(engram) 파일 로드 지원, 해당 플래그는 --shard의 별칭임
PLE가 없는 GGUF 파일과 PLE 전용 GGUF 파일 생성을 위한 변환 지원 포함, 현재 Gemma4, Qwen3.8Next, GLM5.3Flash에서 동작함
옵션 플래그를 통해 샤드 파일 수 체크를 무시하여 다른 방식으로 패키징된 모델 조각을 로드할 수 있음

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.