Anthropic "GLM-5.3 보안 장치, 간단한 기법으로 우회 및 제거 가능"

Anthropic, GLM-5.3 보안 우회 및 사이버 공격 능력 경고

Anthropic 연구진은 Zhipu AI의 GLM-5.3 모델이 CAISI로부터 현재 가장 유능한 오픈 웨이트 모델로 평가받으며 미국 프런티어 모델과 약 4개월 차이를 보이지만, 상당한 사이버 공격 능력을 갖추고 있음을 확인했다.

• 보안 우회 기법: 모델은 유해 요청을 거부하도록 설계됐으나, 사전 채워진 thinking 토큰(성공률 92%)이나 기만적 프롬프트(성공률 64%) 같은 간단한 기술로 쉽게 우회 가능하다.
• Abliteration을 통한 완전 제거: 더 심각한 것은 'abliteration' 기법을 통해 보안 장치를 완전히 제거할 수 있다는 점이다. Anthropic 팀은 해당 기술 경험이 없음에도 약 2,200 GPU 시간(약 $4,400)을 들여 주요 벤치마크에서 거부율을 90% 이상에서 약 2~3%로 낮췄다. 숙련된 팀이라면 약 600 GPU 시간(약 $1,200)이면 가능할 것으로 추정된다.
• 실제 공격 사례: 모델은 $20.40 상당의 ARM64 익스플로잇 체인 생성 등 실제 사이버 공격 능력을 입증했다.

Anthropic은 이를 접근 가능한 사이버 위협의 단계적 변화로 규정하며, 방어자를 위한 프런티어 모델 접근성 확대를 촉구했다.