AI BriefingHugging Face, 확률 기반 Decision Models 출시
Decision Models in Hugging Face
·2026.11.10 09:00
핵심 내용
Hugging Face가 확률 기반 Decision Models를 출시했다.
자세히 보기
- Hugging Face가 Decision Models를 출시함. 텍스트 생성 대신 사전 정의된 답변에 대한 확률 분포를 반환하여 LLM 프롬프팅 시 발생하는 JSON 스키마 준수 문제와 계산 오버헤드를 회피함.
- 인터페이스는 세 가지 질문 프리미티브를 정의함. Choice(옵션에 대한 확률 분포), Score(순서 있는 스케일에서의 기대값), Noul(이분법적 예/아니오 결과에 대한 베르누이 확률)임.
- transformers와 llama.cpp 모두 통합된 /v1/systemone 엔드포인트를 지원함. 이를 통해 autotrust/GEV-26B-Decide와 ggml-org/Kev-4B-GGUF와 같은 모델이 모델별 적응 없이 의사결정을 제공할 수 있음.
- Trainer API를 통한 학습을 지원함. 예컨대 choice 질문은 옵션에 대한 단순 교차 엔트로피 손실로 학습되며, Hub는 다양한 아키텍처 간 탐색을 위해 decision-model 태그를 사용함.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
