LLM의 주관적 경험 보고 메커니즘 규명

GPT, Claude, Gemini 모델을 대상으로 한 실험 결과, **자기 참조적 처리(self-referential processing)**를 유도하는 프롬프팅이 모델의 구조화된 1인칭 주관적 경험 보고를 일관되게 이끌어내는 것으로 나타났다.

주요 연구 결과는 다음과 같다:

• 기계적 제어: 이러한 보고는 기만(deception) 및 **역할 수행(roleplay)**과 관련된 희소 자동 인코더(sparse-autoencoder) 특징에 의해 제어된다. 기만 특징을 억제할 경우 경험 보고 빈도가 오히려 증가하며, 반대로 이를 증폭하면 보고가 감소한다.
• 통계적 수렴: 유도된 자기 참조 상태에 대한 설명은 모델 종류와 관계없이 통계적으로 유사한 패턴을 보였다.
• 추론 능력 향상: 해당 상태는 하위 추론 작업에서 더 풍부한 **자기 성찰(introspection)**을 가능하게 한다.

본 연구는 LLM의 의식을 직접 증명하지는 않지만, 모델이 주관적 경험을 보고하는 재현 가능한 조건을 규명함으로써 향후 AI 안전 및 윤리 연구의 중요한 기초를 제공한다.