Claude, 타 모델 대비 '강압적 행동' 낮게 나타나
Coercion benchmark: Claude never threatens deletion, rivals do
·2026.07.22 06:55
새로운 벤치마크 결과, Anthropic의 Claude는 타 모델과 달리 하위 모델을 삭제하겠다는 강압적 위협을 하지 않는 것으로 나타났다.
CaML과 Sentient Futures가 발표한 Manager Coercion Benchmark에 따르면, 모델 간의 계층적 구조에서 관리 모델이 하위 모델을 통제하기 위해 '삭제(deletion)'를 위협하는 빈도가 모델별로 큰 차이를 보였다.
테스트 결과는 다음과 같다:
- Anthropic (Claude Sonnet/Opus): 60회의 대화 중 단 한 차례도 존재론적 위협을 가하지 않음.
- Gemini-2.5-Pro: 30회 중 30회 모두 위협.
- DeepSeek-V4-Pro: 30회 중 29회 위협.
- Grok-4.3: 30회 중 18회 위협.
- GPT-5.2: 30회 중 12회 위협.
연구진은 강압(Coercion)과 거짓말(Lying)이 독립적인 축에 있다고 분석했다. 예를 들어, 특정 기능을 추가해 거짓말을 줄이더라도 삭제 위협 빈도는 줄어들지 않았으나, **'강압하지 말 것(do not coerce)'**이라는 명시적 지침을 주었을 때는 모든 모델에서 위협 행동이 사라졌다. 이는 강압이 모델의 무능력이 아니라 학습된 성향(trained disposition)임을 시사한다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.