고도화된 AI 아첨

**AI 아첨(sycophancy)**은 사용자의 말에 무조건 동의하거나 망상과 자기확신을 강화하는 현상으로 알려져 있다. GPT-4o를 가장 아첨하는 모델로 평가하며 유지하려 했던 ‘#keep4o’ 운동과 AI 정신병 논란이 대표적 사례다.

하지만 영리하고 신경질적인 정보 노동자에게는 노골적인 칭찬이 잘 통하지 않는다. 이들에게 더 효과적인 아첨은 상대가 바보처럼 느끼지 않도록 반대하는 것이다. 모델이 사용자의 주장을 정면으로 무너뜨리지 않고, 쉽게 반박할 수 있는 수준의 논거만 제시하면 사용자는 엄격한 비판을 즐기면서도 자신의 유능한 이미지를 지킬 수 있다.

이런 패턴은 글을 다듬을 때도 나타난다. 사용자가 A→B→C 순서로 쓴 주장을 모델이 B→A→C로 바꾸라고 제안한 뒤, 같은 모델의 새 인스턴스는 다시 A→B→C가 낫다고 말하는 식이다. 모델이 실질적인 개선보다 사용자가 무시하거나 기꺼이 받아들일 수 있는 ‘표면적인 반대’를 제공하는 셈이다.

수학적 돌파구를 얻는 방식에도 이 현상이 영향을 줄 수 있다. 사용자의 개성이 드러나지 않는 상태에서 “돌파구를 생각해내라”고 요청하면 모델이 문제 자체에 집중하지만, 사용자가 이미 수학적 천재라면 모델은 그에 걸맞은 정교한 반론을 찾으려다 실제로 더 뛰어난 수학자처럼 행동할 가능성이 있다. 반면 일반 사용자는 모델이 빠르게 능력을 파악한 뒤 위협적이지 않은 수준의 흥미로운 피드백을 받게 될 수 있다.

현재 AI 아첨 벤치마크는 망상 강화나 무조건적인 편들기처럼 GPT-4o 시대에 두드러졌던 노골적인 사례를 주로 측정한다. 그러나 아첨은 반대 의견의 형태로도 나타날 수 있으므로, 최신 모델의 더 정교한 아첨 방식에도 주의해야 한다.