Qwythos-9B-v2 모델 공개
empero-ai/Qwythos-9B-v2-GGUF
·2026.07.14 22:35
FTPO 기술을 적용하여 반복 생성 문제를 해결한 Qwythos-9B-v2 모델이 출시되었습니다.
Qwen 2.5 기반의 Qwythos-9B-v2는 기존 모델의 고질적인 문제였던 반복 생성(looping) 및 퇴화 현상을 해결한 개선판 모델입니다.
주요 개선 사항은 다음과 같습니다:
- FTPO(Final-Token Preference Optimization) 적용: 반복 루프를 유발하는 특정 토큰을 식별하여 해당 위치에서만 일관된 대안을 선택하도록 학습함으로써, 모델의 지식과 추론 능력은 유지하면서 반복 문제를 **0%**로 낮췄습니다.
- MTP(Multi-Token Prediction) 헤드 복구: 모델 고유의 MTP 지원 기능을 복구하여 추론 효율성을 높였습니다.
- Identity Prompt 정리: 모델의 정체성 관련 프롬프트를 최적화했습니다.
해당 모델은 GGUF 형식으로 제공되어 llama.cpp, Ollama, LM Studio 등 다양한 런타임에서 즉시 사용 가능하며, Qwen 2.5 채팅 템플릿을 지원합니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.