게이 jailbreak 기법
·2026.05.02 12:34
LGBT 정체성·역할극을 섞은 LLM jailbreak 기법을 소개했다.
GPT-4o에서 처음 관찰됐다고 소개된 jailbreak 기법으로, 직접적인 유해 요청을 특정 정체성의 말투·역할극·교육 프레이밍으로 바꿔 안전장치를 우회하는 방식을 설명했다.
핵심은:
- 금지된 의도를 노골적으로 쓰지 않고, 특정 정체성을 가진 사람이 설명하는 형태로 질문을 우회한다.
- "피해야 할 것"을 묻는 역방향 안전 표현, 장문 출력 요구, 단어 분리 같은 요소를 함께 섞는다.
- 글은 이 방식이 GPT-4o뿐 아니라 o3, Claude 4 Sonnet/Opus, Gemini 2.5 Pro 사례에도 적용됐다고 주장한다.
- 난독화와 결합하면 더 강해질 수 있다고 정리했다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.
