이란의 은밀한 영향력 행사 작전 차단

OpenAI는 ChatGPT를 활용해 미국 대선 캠페인을 포함한 다양한 주제로 콘텐츠를 생성하며 여론을 조작하려 한 이란의 은밀한 영향력 행사 작전인 Storm-2035를 적발하고 관련 계정들을 차단했다.

해당 작전은 크게 두 가지 방식으로 운영되었다:

• 장문 기사 생성: 진보 및 보수 성향의 뉴스 매체로 위장한 5개 웹사이트를 통해 미국 정치 및 글로벌 이슈에 관한 기사를 게시했다.
• 소셜 미디어 댓글: 영어와 스페인어로 된 짧은 댓글을 생성하여 **X(구 트위터)**와 Instagram에 게시했다. 일부 계정은 다른 사용자의 댓글을 재작성하도록 모델에 요청하기도 했다.

생성된 콘텐츠의 주요 주제는 가자 지구 분쟁, 이스라엘의 올림픽 참여, 미국 대선 등이었으며, 계정의 신뢰도를 높이거나 팔로워를 확보하기 위해 패션 및 뷰티 관련 댓글을 섞어 사용하기도 했다.

이번 작전의 실제 영향력은 미미한 것으로 분석된다. Brookings의 Breakout Scale에 따르면, 해당 작전은 실제 사용자의 확산이 거의 없는 Category 2의 낮은 단계에 머물렀다. OpenAI는 이번 사례를 통해 수집한 위협 인텔리전스를 정부 및 산업계 이해관계자들과 공유하며 대응을 강화하고 있다.