LLM의 정렬 메커니즘: 상태 유도 이론

대규모 언어 모델(LLM)이 단순히 개별 토큰을 억제하거나 지침을 따르는 수준을 넘어, **담화 수준의 체계(discourse-level regimes)**에 진입한다는 연구 결과가 제시되었습니다.

이 연구에 따르면, 모델의 행동은 단순한 렉시컬 프라이밍(lexical priming) 효과가 아니라, **분산된 잠재 상태(distributed latent states)**에 의해 결정됩니다. 이러한 상태는 다음과 같은 특징을 보입니다.

• 중립적인 대화 턴에서도 지속됨
• 임의의 중립적 재라벨링(relabeling)에도 유지됨
• 하위 단계의 추론 스타일을 체계적으로 변경함
• 후기 레이어(late-layer)의 표현 기하학에 집중됨

결과적으로 프롬프팅은 단순한 지침 전달이 아니라 모델의 상태를 유도하는 상태 유도(state induction) 과정으로 기능할 수 있습니다. 이는 정렬(Alignment)이 모델 위에 씌워진 모듈형 래퍼(wrapper)가 아니라, 모델의 표현 공간 토폴로지(representational space topology) 자체를 재구성하여 담화 행동을 전역적으로 재조직하는 과정임을 시사합니다.