AI 스웜이 민주주의를 위협한다

Science 정책 포럼 논문은 대규모 AI 페르소나가 온라인 토론을 조작해 겉보기에 자발적인 합의를 만들어낼 수 있다고 경고했다.

• 단일 운영자가 수많은 AI 계정을 관리하면, 이들은 사람처럼 언어와 톤을 바꾸며 커뮤니티에 침투할 수 있다.
• 메시지는 즉시 피드백을 받아 조정되고, 수백만 번의 소규모 실험으로 설득력이 최적화된다.
• UBC의 Kevin Leyton-Brown은 미국, 대만, 인도네시아, 인도 선거에서 이미 딥페이크와 가짜 뉴스 네트워크가 영향을 줬다고 지적했다.
• 친러시아 네트워크의 대량 콘텐츠는 향후 AI 모델의 학습 데이터 오염 위험도 키운다.
• 연구진은 낯선 계정에 대한 신뢰 하락이 셀럽과 기존 영향력자에게 유리하게 작용할 수 있으며, 다음 선거가 이 기술의 실전 시험대가 될 수 있다고 봤다.