은밀한 영향력 작전의 AI 기만적 활용 차단

OpenAI는 지난 3개월 동안 AI 모델을 활용해 기만적인 활동을 시도한 5건의 **은밀한 영향력 작전(Covert Influence Operations, IO)**을 차단했습니다. 2024년 5월 기준, 이러한 캠페인들은 OpenAI의 서비스를 이용해 관객 참여도나 도달 범위를 유의미하게 확장하지 못한 것으로 확인되었습니다.

차단된 주요 작전은 다음과 같습니다:

• Bad Grammar (러시아): Telegram을 통해 우크라이나, 미국 등을 대상으로 정치적 댓글 생성 및 코드 디버깅 수행
• Doppelganger (러시아): X, 9GAG 등에서 다국어 댓글 생성 및 뉴스 기사 번역/편집
• Spamouflage (중국): X, Medium 등에서 다국어 텍스트 생성 및 소셜 미디어 조사 수행
• IUVM (이란): 웹사이트 운영을 위한 장문 기사, 헤드라인, 태그 생성 및 번역
• Zero Zeno (이스라엘 상업 기업): Instagram, Facebook, X 등에서 기사 및 댓글 생성

이들은 러시아-우크라이나 전쟁, 가자 지구 분쟁, 인도 선거, 미국 및 유럽 정치 등 광범위한 이슈를 다루었습니다.

OpenAI는 안전 중심의 AI 모델 설계를 통해 공격자의 의도를 사전에 방지하고 있으며, AI 도구를 활용해 조사 효율성을 높이며 대응하고 있습니다.