Creation OS: 로컬 σ-게이트 LLM
Creation OS: local σ-gated LLM runtime — BitNet/Qwen/Gemma, abstention, conformal gate, MCP, no cloud
·2026.04.30 08:36
Creation OS가 로컬 LLM의 불확실성을 σ-게이트로 걸러 정확도를 높였다.
Creation OS는 로컬 LLM 출력 앞단에 σ-gate를 붙여 결과를 ACCEPT / RETHINK / ABSTAIN으로 분기한다.
- BitNet b1.58 2B-4T, Qwen3-8B Q4_K_M, Gemma 3 4B 등 GGUF 모델을 지원하고, MacBook Air M4 8GB에서 동작하며 no cloud / no API를 전제로 한다.
- logprob, entropy, perplexity, consistency, semantic σ, conformal τ, session coherence 같은 여러 불확실성 신호를 합쳐 최종 판정을 만든다.
- TruthfulQA 817에서 BitNet 단독은 accuracy 0.261 / coverage 0.136, σ-pipeline은 0.336 / 0.171을 기록해 28.7% 정확도 개선을 주장했다.
- 별도 LSD probe에서는 TruthfulQA holdout AUROC 0.982, TriviaQA 0.960, HIDE 0.857, Gemma-2-2b 0.778를 제시했다.
- ECE 0.043, 오답이면서 자신감이 높은 케이스 0, 그리고 P(error | ACCEPT) ≤ α라는 conformal bound를 α=0.80에서 주장했다.
- 반면 HellaSwag와 MMLU에서는 σ가 우세하지 않았고, 구현은 Lean 4 6/6 sorry-free, Frama-C WP 15/15 discharge까지 검증했다고 적었다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.