2024년 글로벌 선거 대비 전략

Anthropic은 2024년 전 세계적으로 예정된 주요 선거에 대비하여, 자사 AI 시스템이 정치적 맥락에서 오남용되는 것을 탐지하고 완화하기 위한 준비를 마쳤다.

대응 전략은 크게 세 가지 핵심 요소로 구성된다:

• 선거 관련 이슈에 대한 정책 수립 및 집행
• 선거 오남용에 대한 모델 성능 평가 및 테스트
• 투표 방법 등 관련 질문에 대한 정확한 정보 제공

**수용 가능한 사용 정책(AUP)**을 통해 정치적 캠페인 및 로비 활동을 금지하며, 후보자가 자신을 사칭하는 챗봇을 만들거나 타겟팅된 정치 캠페인에 Claude를 활용하는 것을 허용하지 않는다. 오남용 탐지를 위해 자동화된 시스템을 운영하며, 심각한 위반 시에는 인간의 검토를 거쳐 서비스 이용을 중단한다.

2023년부터는 레드팀(Red-teaming) 활동을 통해 정책 위반 가능성을 테스트해 왔다. 주요 테스트 영역은 다음과 같다:

• 오정보 및 편향성: 후보자, 이슈, 선거 행정에 대한 질문에 대한 응답 분석
• 적대적 남용: 유권자 억압 전술 등 정책 위반 프롬프트에 대한 대응력 테스트
• 기술적 평가: 정치적 형평성, 유해 질문 거부 능력, 허위 정보 생성 방지 능력 등

생성형 AI의 환각(Hallucination) 문제를 방지하기 위해, 미국 내 사용자가 선거 관련 정보를 요청할 경우 TurboVote와 같은 신뢰할 수 있는 기관의 최신 정보로 안내하는 팝업 기능을 도입하여 정확한 정보를 제공할 예정이다.