LoCo, 수학 작업 추론 길이 41.7~45.4% 절감

[Paper] Think Less, Locally: Local Preference Learning for Reasoning Compression

·2026.11.05 00:38

핵심 내용

LoCo가 DPO로 추론 길이를 최대 45.4% 줄이고 정확도를 유지했다

LoCo는 모델 자체 추론 기록에서 과도한 사고(overthinking) 상태를 감지하고, 상태 조건부 선호 쌍을 DPO로 학습하는 로컬 선호 학습 방법임
수학 작업에서 응답 길이를 41.7%~45.4%, 코드 생성 작업에서 23.4%~36.3% 단축하면서 정확도를 유지하거나 향상시킴
수학 추론 기록만으로 학습했음에도 코드 생성으로 효과적으로 이전되며, 모든 코드 벤치마크에서 최고 AUC 달성
학습 데이터는 자체 생성된 수학 추론 기록으로만 구성되며, 모델은 Hugging Face에서 LoCo-7B로 제공됨

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.