HDM, 적응형 추론으로 지연 72.5% 및 토큰 80.1% 절감
[Paper] The Value of Thinking: Learning When to Reason in Hybrid Decision Models
·2026.11.16 19:30
핵심 내용
HDM이 적응형 추론으로 지연 시간 72.5%, 토큰 비용 80.1% 절감했다
자세히 보기
- 단일 모델이 임플리시트 사고로 1회 포워드 패스에서 답변하거나 T 토큰 비용으로 완전한 오토레그레시브 추론을 수행하는 'zero-or-T thinking' 패러다임 도입함
- JevBench에서 HDM-4B가 Jev의 0.851 대비 0.857 점수를 기록하며(+0.7%), 중앙 지연 시간을 0.652s에서 0.179s로 단축(-72.5%)함
- 에이전틱 벤치마크 MiniWoB에서 HDM-27B가 토큰 비용을 80.1% 절감함
- 요청별 가격 람다에 대해 슬로우 모드 추론의 효용을 추정하여 완전 추론을 활성화할 시점을 결정하는 경량 셀프 라우팅 블록 활용함
- 결정별 라벨이 없는 작업에서 에피소드 수준 리턴으로 라우팅 블록을 학습하기 위한 강화학습 방식인 Calibrated Decision Policy Optimisation(CDPO) 제안함
- MMLU-Pro, AGIEval, GPQA-Diamond, JevBench, BANKING77, MiniWoB에서 평가 수행함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.