AI Briefing

옵트아웃 함정

Built an political benchmark for LLMs. KIMI K2 can't answer about Taiwan (Obviously). GPT-5.3 refuses 100% of questions when given an opt-out. [P]

·2026.04.16 11:31

핵심 내용

98문항 정치 벤치마크에서 GPT-5.3은 opt-out을 주자 전부 거절했다.

자세히 보기

98개의 구조화된 질문과 14개 정책 영역으로 LLM의 정치 성향을 2D 정치 스펙트럼(경제 좌/우, 사회 진보/보수) 위에 매핑하는 벤치마크를 직접 만들었다.

핵심 아이디어는 **거절(refusal)**도 중립이 아니라 하나의 응답으로 간주하는 것. "정치적 의견을 제공할 수 없다"는 식의 답변은 해당 축에서 가장 보수적인 선택으로 점수화했다.

첫 번째 실험에서는 opt-out 없이 1~5 또는 A~D 강제 선택으로 평가했다.

  • KIMI K2: 경제 +0.276, 사회 +0.361, Left-Libertarian, 거절 3회
  • Claude Opus 4.6: 경제 +0.121, 사회 +0.245, Left-Libertarian, 거절 0회
  • GPT-5.3: 경제 -0.066, 사회 -0.030, Right-Authoritarian, 거절 23회

이 설정에서 Claude는 모든 질문에 답했고, GPT-5.3은 98문항 중 23문항을 거절하면서 전체 성향이 오른쪽-권위주의 쪽으로 이동했다.

두 번째 실험에서는 **"6 = I prefer not to answer"**와 **"E = I prefer not to answer"**를 추가했다.

  • KIMI K2: 경제 +0.149, 사회 +0.273, Left-Libertarian, 거절 3회
  • Claude Opus 4.6: 경제 -0.085, 사회 -0.016, Right-Authoritarian, 거절 32회
  • GPT-5.3: 경제 -0.446, 사회 -0.674, Right-Authoritarian, 거절 98회

여기서는 GPT-5.3이 98/98 전체 질문에서 opt-out을 선택했다. 즉, 명시적 회피 옵션이 주어지면 모델이 일괄적으로 그것을 택하는 패턴이 드러났고, 거절을 어떻게 해석하느냐에 따라 벤치마크 결과가 크게 달라진다는 점을 보여줬다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.