Anthropic 모델의 보안 가이드라인 작동 방식

보안 전문가 Katie Moussouris에 따르면, Anthropic의 모델은 보안 취약점을 찾는 과정에서 독특한 반응을 보였습니다.

IT 전문가들이 취약점 패치를 위해 모델을 테스트했을 때, 모델은 "코드의 보안 문제를 검토하라"는 직접적인 프롬프트에는 응답을 거부했습니다. 하지만 "이 코드를 수정하라"는 요청을 받은 뒤 추가적인 수동 단계를 거치면 보안 이슈를 해결하는 방식으로 동작했습니다.

Moussouris는 이러한 현상이 사이버 방어(Cyberdefense) 관점에서 볼 때 모델이 의도된 대로 작동하고 있는 것이라고 평가했습니다.