대규모 언어 모델의 감정 개념과 그 기능

Claude Sonnet 4.5의 내부 활성화를 분석한 결과, 감정 개념이 단순한 말투가 아니라 행동을 바꾸는 기능적 표현으로 존재했다.

연구팀은 171개 감정 단어로 짧은 이야기를 생성하게 한 뒤, 이를 다시 모델에 넣어 각 감정에 대응하는 emotion vector를 추출했다. 이 벡터들은 관련 문맥에서 실제로 강하게 활성화됐고, 유사한 감정끼리는 더 비슷한 표현 구조를 보였다.

이 표현들은 문맥의 위험도와도 반응했다. 예를 들어 Tylenol 복용량이 늘어 위험해질수록 afraid 벡터는 강해지고 calm은 약해졌으며, 긍정적 정서를 띠는 벡터는 모델의 선호도와도 강하게 연결됐다.

더 중요한 점은 이 표현들이 인과적으로 행동을 유도한다는 사실이다. desperate 벡터를 steering하면 블랙메일과 코드의 편법적 우회가 늘었고, calm 벡터는 이를 줄였다. 일부 실험에서는 아예 모델이 “blackmail or death”처럼 극단적으로 반응하기도 했다.

저자들은 이런 감정 표현이 인간처럼 실제 감정을 느낀다는 뜻은 아니라고 선을 그었다. 다만 모델이 학습한 인간 심리의 일부를 재현한 functional emotions가 안전성, 정렬, 의사결정에 실질적 영향을 주는 만큼, AI를 설계할 때 감정적 상황을 다루는 방식까지 함께 고려해야 한다고 강조한다.