중간 토큰을 추론/사고 흔적으로 인간화하는 관행 중단하라

언어 모델의 추론 성능을 높이기 위해 도입된 중간 토큰 생성(ITG) 방식에서 산출되는 토큰을 '추론 흔적'이나 '사고 흔적'이라 부르는 관행에 대한 비판적 포지션 페이퍼가 공개되었습니다.

이 페이퍼는 이러한 명명법이 단순한 비유가 아니라 모델의 작동 원리를 오해하게 만들고, 잘못된 연구 방향으로 이어질 수 있는 **위험한 인간화(anthropomorphization)**라고 지적합니다. 중간 토큰은 사용자가 이해하기 쉬운 인간의 문제 해결 단계를 모방한 것이 아니며, 이를 해석 가능한 사고 과정의 창(window)으로 오인하면 모델의 본질과 효과적인 활용법을 혼동하게 된다고 경고합니다.

저자들은 커뮤니티에 이러한 인간화 표현을 피하고, 모델의 실제 작동 메커니즘에 기반한 정확한 용어를 사용할 것을 촉구했습니다. 해당 논문은 ICML 2026에 게재될 예정입니다.