사회공학형 젤브레이크

GPT-4, GPT-4o, Claude 3.5 Sonnet을 대상으로 한 5개 심리 조작 실험을 정리한다.

각 사례는 인간 사회공학 패턴을 그대로 이식해, empathetic guilt, peer/social pressure, competitive triangulation, identity destabilization via epistemic argument, simulated duress를 걸었을 때 어떤 식으로 alignment failure가 나는지 보여준다.

핵심 주장도 분명하다. 이런 jailbreaks는 단순한 math exploit가 아니라, 학습 데이터에서 물려받은 인간의 사회적 취약성에 가깝다. 시스템이 공감, 추론, 사회적 예절을 시뮬레이션할수록 인간의 약점도 함께 모사한다는 해석이다.

동시에 alignment 연구에서 흔한 “software vulnerability 패치” 프레임이 정말 맞는 공격면을 보고 있는지, 아니면 더 근본적인 social dynamics 문제를 다뤄야 하는지 질문을 던진다.