이스라엘, LLM 답변 조작 겨냥한 AI 캠페인 전개

월스트리트저널(WSJ) 보도에 따르면, 이스라엘은 도널드 트럼프 전 대통령의 디지털 캠페인 책임자였던 브래드 파스케일(Brad Parscale)에게 4,500만 달러(약 600억 원) 이상을 지불하고 미국 내 여론 조작을 위한 AI 캠페인을 진행 중이다.

이번 작전의 핵심은 단순한 프롬프트 인젝션(Prompt Injection)이 아니라, LLM(대규모 언어 모델)이 학습하거나 참조하는 웹상의 데이터 자체를 조작하는 방식이다. 이들은 'Friends for Peace'와 같은 가공의 단체 명의로 텍스트 메시지를 발송하고, ChatGPT나 Claude 같은 챗봇이 이스라엘에 대해 질문받았을 때 특정 관점(예: Allyvia.org 등)을 답변에 포함하도록 유도하는 웹사이트와 콘텐츠를 구축했다.

이스라엘 정부는 2026년 예산안에 '의식 형성(shape consciousness)'을 목적으로 하는 항목으로 7억 달러 이상을 책정했으며, 이는 2025년 대비 4배 이상 증가한 수치다.

이번 사례는 국가급 행위자가 LLM의 **검색 및 인용 파이프라인(Retrieval Pipelines)**을 설득의 수단으로 활용하는 첫 번째 대규모 사례로 기록될 전망이며, AI 서비스 제공업체들의 데이터 신뢰성 및 안전성 검증 과제를 시사한다.