Quartermaster 1.7, llama.cpp 결정 모델 지원

Quartermaster 1.7은 llama.cpp, 이미지, 오디오, 비디오 모델을 교체하는 로컬 추론 관리자로, 새로운 /v1/systemone 엔드포인트를 통해 **결정 모델(decision models)**을 지원한다.

주요 기능

• 자동 감지: Kev, OpenJev, Laya 같은 결정 모델 GGUF 파일을 모델 폴더에 넣으면 VRAM 크기에 맞춰 설정 항목이 자동으로 생성된다.
• 플레이그라운드 탭: 프롬프트 작성, 답변 형식 선택, 각 옵션의 확률 바 확인을 통해 모델 출력을 빠르게 테스트할 수 있다.
• 모델 브라우저: 새로운 Decision 탭에서 Hugging Face에서 결정 모델을 직접 검색하고 프록시할 수 있다.
• API 통합: POST /v1/systemone 요청은 Quartermaster의 스케줄러와 API 키를 거치므로, 결정 모델을 채팅 모델과 함께 교체하여 사용할 수 있다.

요구 사항

• /v1/systemone을 지원할 만큼 최신의 llama.cpp 빌드(업스트림 b11361+)가 필요하다. 구버전 빌드가 감지되면 Quartermaster가 경고한다.