MIT, AI 과신 줄이는 RLCR

MIT CSAIL 연구진은 최신 reasoning 모델이 정답을 모를 때도 같은 확신으로 답하는 과신 문제를 지적했다.

연구진은 이 현상을 모델 성능의 우연한 부작용이 아니라 학습 방식의 특정 결함으로 보고, 이를 바로잡는 RLCR 방법을 제시했다.

핵심 목표는 모델이 불확실할 때 **"잘 모르겠다"**고 말하도록 만들면서도, 정확도는 유지하는 것이다.

• 모든 답변을 동일한 확신으로 내놓는 문제를 겨냥함
• 과신을 줄이되 성능 저하는 최소화하는 방향임
• 모델의 신뢰도 표현과 안전한 사용에 직접 관련됨