llama.cpp, 추론 수준 조절 기능 추가
ui: Add Thinking mode toggle with reasoning effort levels + improvements for Chat Form Add Action UI by allozaur · Pull Request #23434 · ggml-org/llama.cpp
·2026.06.02 22:59
핵심 내용
llama.cpp UI에 모델의 추론 과정을 제어할 수 있는 Thinking mode 토글 기능이 추가되었습니다.
자세히 보기
llama.cpp UI에 모델의 사고 과정을 제어할 수 있는 Thinking mode 토글 기능이 도입되었습니다.
사용자는 이제 추론(reasoning) 과정을 활성화하거나 비활성화할 수 있으며, reasoning effort levels를 설정하여 모델이 사고에 투입하는 자원을 직접 제한할 수 있습니다.
이와 함께 Chat Form Add Action UI에 대한 전반적인 개선 작업도 함께 진행되었습니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.