Claude 텍스트 워터마크

Anthropic은 EU AI 법안(EU AI Act)을 준수하기 위해 향후 Claude 모델의 텍스트 생성 시 워터마크를 포함할 계획이다. 이 기술은 해당 텍스트가 Claude에 의해 작성되었을 가능성을 식별하는 데 사용된다.

워터마킹은 텍스트 생성 과정에서 발생하는 '낮은 중요도의 선택(low-stakes choices)'을 활용한다. 모델이 다음 단어를 선택할 때, 완전한 무작위 대신 특정 **키(key)**와 이전 단어들을 조합하여 패턴을 남긴다. 이 패턴은 일반 독자에게는 보이지 않지만, 키를 가진 사람은 텍스트의 일관성을 확인하여 Claude 생성 여부를 확률적으로 판별할 수 있다.

주요 특징은 다음과 같다:

• 품질 유지: 텍스트의 품질, 창의성, 가독성에 영향을 주지 않는다.
• 비가시성: 숨겨진 문자나 추가 토큰이 없으며, 인간의 눈으로는 구분이 불가능하다.
• 개인정보 보호: 특정 개인, 조직 또는 채팅 내용을 추적할 수 있는 식별 정보를 포함하지 않는다.
• 비용 효율성: 추가적인 토큰이나 비용이 발생하지 않는다.

이 방식은 Google DeepMind의 SynthID-Text 기술과 유사하며, 내부 테스트 결과 워터마크 유무에 따른 텍스트 품질의 통계적 차이는 발견되지 않았다.