Vellium 1.9.5, Lite 모드로 12B 로컬 모델 비주얼 노벨 실행

Vellium 1.9.5: visual novels that actually work on a 12B local model

·2026.11.14 05:17

핵심 내용

Vellium 1.9.5가 Lite 모드로 12B 로컬 모델에서 비주얼 노벨 실행을 가능하게 했다

자세히 보기

  • Vellium 1.9.5는 Lite 모드를 도입하여 구조화된 JSON 생성 대신 일반 텍스트 마커를 사용해 Gemma 12B 같은 소형 로컬 모델에서도 비주얼 노벨이 안정적으로 동작하도록 함
  • 시스템 프롬프트를 약 8k에서 약 1k 문자로 줄이고, 전체 응답을 기다리지 않고 텍스트를 리더로 직접 스트리밍함
  • 느린 로컬 환경에서 1분 이상 걸릴 수 있는 불필요한 재처리 문제를 방지하기 위해 이전 컨텍스트에 새로운 턴을 추가하는 방식의 프롬프트 캐시 보존 기능을 구현함
  • 텍스트 스트리밍 중에도 ComfyUI가 이미지 렌더링을 시작할 수 있는 인라인 이미지 생성을 지원하며, ComfyUI가 다른 머신에서 실행되는 경우에도 적용됨
  • 이미지 모델에 전체 캐릭터 카드를 전달하는 대신 압축된 영어 시각 설명과 고정 의상을 사용해 캐릭터 일관성을 개선함
  • 생성된 배경과 잘라낸 스프라이트를 재사용하는 배경 및 스프라이트 모드를 제공하며, VRAM에 추가 신경망을 로드하지 않도록 앱 내 크로마키 처리로 배경 제거를 수행함
  • 애니메이션 이미지 모델용으로 최적화된 12개의 새로운 비주얼 스타일 프리셋을 포함하며, Anima로 테스트를 거쳤고 사용자 페르소나, RAG 지식 컬렉션, Writer 프로젝트와 통합됨

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.