AI 에이전트의 신뢰를 결정하는 '실패 예측 능력'

COWCORPUS 프로젝트는 400명의 사용자가 수행한 4,200건의 인간-AI 상호작용 데이터를 분석하여, AI 에이전트와 인간의 협업 패턴을 연구했습니다.

연구 결과, 에이전트가 단순히 실패를 줄이는 것보다 자신의 실패 가능성을 정확히 예측하는 능력이 인간과의 협업에서 훨씬 더 높은 가치를 지닌다는 '개입의 역설(Intervention Paradox)'이 발견되었습니다. 인간의 개입 시점은 무작위가 아니라 시각적 단서, 작업 맥락, 에이전트의 행동 패턴에 따라 예측 가능한 규칙을 따릅니다.

인간이 AI를 신뢰하고 협업하는 방식에는 다음과 같은 주요 패턴이 존재합니다:

• Takeover Artist: 불확실성에 대한 내성이 낮아, 에이전트의 실수를 방지하기 위해 매 단계마다 즉각적으로 개입하여 통제권을 가져가는 유형.
• Hands-On Partner: 정기적이고 전략적인 리듬에 따라 가이드를 주고받으며 통제권을 조절하는 유형.