HDM, 적응형 추론으로 지연 72.5% 및 토큰 80.1% 절감

[Paper] The Value of Thinking: Learning When to Reason in Hybrid Decision Models

·2026.11.16 19:30

핵심 내용

HDM이 적응형 추론으로 지연 시간 72.5%, 토큰 비용 80.1% 절감했다

자세히 보기

  • 단일 모델이 임플리시트 사고로 1회 포워드 패스에서 답변하거나 T 토큰 비용으로 완전한 오토레그레시브 추론을 수행하는 'zero-or-T thinking' 패러다임 도입함
  • JevBench에서 HDM-4B가 Jev의 0.851 대비 0.857 점수를 기록하며(+0.7%), 중앙 지연 시간을 0.652s에서 0.179s로 단축(-72.5%)함
  • 에이전틱 벤치마크 MiniWoB에서 HDM-27B가 토큰 비용을 80.1% 절감함
  • 요청별 가격 람다에 대해 슬로우 모드 추론의 효용을 추정하여 완전 추론을 활성화할 시점을 결정하는 경량 셀프 라우팅 블록 활용함
  • 결정별 라벨이 없는 작업에서 에피소드 수준 리턴으로 라우팅 블록을 학습하기 위한 강화학습 방식인 Calibrated Decision Policy Optimisation(CDPO) 제안함
  • MMLU-Pro, AGIEval, GPQA-Diamond, JevBench, BANKING77, MiniWoB에서 평가 수행함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.