AI 오남용 대응: 2026년 9월

Anthropic이 2026년 9월, AI 모델을 악용한 국가 연계 프로파간다 캠페인 사례를 공개하고 관련 계정을 차단했다. 이번 조치는 소규모 인력으로 대규모 허위 정보를 생산하거나 특정 정치적 목적을 달성하기 위해 AI를 활용한 시도를 탐지하고 대응한 결과를 담고 있다.

국가 미디어 파이프라인 및 몰도바 사례

Sputnik Moldova, Sputnik en Español, RT 등에서 Claude를 활용해 선거 전 후보 비방, 자막 및 보이스오버 생성 등 대규모 프로파간다를 생산한 정황이 확인됐다. 이에 Anthropic은 관련 계정 4개를 정지하고 탐지 지표를 공유했다.

이란 연계 캠페인 (GTG-34001)

이란의 ICCO, Khorasan Razavi 선전국, Bina 관측소 등 국가 연계 기관들이 Claude를 이용해 '소프트 워(soft war)' 캠페인을 계획하고 실행한 것으로 드러났다. 이들은 Jihad al-Tabyin을 기반으로 20개 언어의 콘텐츠를 생성하고, 페르소나 위장 및 출처 세탁을 시도했다. 특히 CSIS 등 신뢰할 만한 기관의 출처를 사칭하거나 Manjanegh 공장을 통해 Eitaa, Telegram 등 IRGC 연계 채널 100개 이상으로 배포했다. VPN과 외국 번호로 우회를 시도했으나 대화 내용과 문서 푸터 분석을 통해 신원이 확인되어 계정이 차단됐다. 이는 Breakout Scale Category 3으로 평가됐다.

방글라데시 허위 뉴스 캠페인 (GTG-54006)

방글라데시에서는 Awami League 지지를 위한 허위 뉴스 생성에 Claude가 악용된 사례가 적발됐다. 가이반다 소재 한 인물이 29개의 Claude 계정과 스크립트(fake_news_3.py)를 사용해 헤드라인 1,500건, 허위 서사 300건, 이미지 프롬프트 1,500건을 생성했다. 이 콘텐츠는 Facebook, YouTube, TikTok 라이브 스트림 등에 사용되어 반대파를 비방하는 데 활용됐다. 당의 직접 관여나 국가 자금 증거는 없었으나, 농촌 지역을 타겟으로 한 조직적인 허위 정보 유포로 판단되어 계정이 차단됐다. 이 역시 Breakout Scale Category Three으로 분류됐다.