Anthropic, 안전 분류기 무료화

프롬프트 인젝션 방어에 모델 학습, 의도 분류기, 입력 프로브를 겹겹이 적용하면 새로운 공격에도 성공률을 0에 가깝게 낮출 수 있다는 접근이 제시됐다.

Anthropic은 Claude Code 업데이트에서 자동 모드(auto mode)를 기본값으로 설정했으며, 안전성 검사를 담당하는 분류기를 별도 비용 없이 제공한다고 밝혔다.

다만 게시물 자체에는 ‘새로운 공격에서 프롬프트 인젝션이 0이 됐다’는 주장을 뒷받침하는 구체적인 실험 설계나 수치가 제시되지 않았다.