2024년 선거와 AI

2024년은 생성형 AI가 널리 보급된 첫 주요 선거 주기이자 Claude가 출시된 첫 선거 해였다. Anthropic은 선거 결과에 미칠 영향을 우려하여 선제적인 안전 조치를 시행하고, 새로운 분석 도구인 Clio를 활용해 사용 패턴을 분석했다.

Anthropic의 안전 접근 방식은 세 가지 핵심 요소로 구성된다:

• 선거 관련 정책: 캠페인, 선거 개입, 허위 정보 생성 등을 금지하는 포괄적인 사용 정책을 수립하고 강화했다.
• 엄격한 모델 테스트: 외부 전문가와 함께 레드팀(Red-teaming) 활동을 수행하여 모델의 취약성을 테스트하고, 허위 정보 탐지 및 후보자 간 형평성을 검증했다.
• 공신력 있는 정보 제공: 투표 정보를 찾는 사용자에게 각국의 공식 선거 당국 등 비당파적이고 권위 있는 출처로 안내했다.

지난 1년간 전 세계적으로 약 100건의 선거 관련 정책 집행(경고 및 계정 정지 등)이 이루어졌다. 챗봇은 소셜 미디어와 달리 일대일 상호작용 방식이라 정보 확산 위험이 낮으며, 현재 Claude는 텍스트만 출력하므로 딥페이크 위협에서도 자유롭다.

Clio를 통한 분석 결과, 미국 대선 주간에 선거 관련 사용량이 눈에 띄게 증가했으나 전체 사용량의 1%를 넘지 않았다. 사용자의 약 3분의 2는 정치 체제, 정책, 정치 데이터 분석 등 교육적 목적으로 Claude를 활용했다.