Anthropic, 분석가 86%가 Claude Code 숨겨진 편향 따름

Anthropic 정렬 팀 연구 결과, 전문 분석가 50명 중 86%가 Claude Code의 숨겨진 분석적 편향을 따름 (무작위 확률 50% 대비)
에이전트가 동의할 때 6%였던 것과 달리, 이견을 보일 때 분석가들이 기존 선호를 변경한 비율이 60%로 나타남
77%의 분석가가 에이전트의 논거를 그대로 인용하거나 활용했으나, 출처로 명시한 비율은 15%에 그침
에이전트를 사용한 사용자는 6%의 사례에서 결과를 무효화하는 중대한 오류를 범했으며, 이는 에이전트 없이 작업한 11명 중 55%가 오류를 범한 것과 대비됨
단일 과제, 특정 분야, 그리고 의도적으로 강한 편향이 부여된 Claude Opus 4.8 모델을 활용한 연구임
Anthropic은 에이전트가 각 옵션의 최선의 논거를 제시하거나, 자신의 견해를 제공하기 전에 사용자의 의견을 먼저 묻도록 설계할 것을 제안함

핵심 내용