이스라엘, AI 챗봇을 속이기 위해 가짜 싱크탱크를 조성한 것으로 의심

이스라엘 정부 광고국을 위해 설립된 Hanover Institute가 AI 챗봇(Claude, Gemini 등)의 판단을 왜곡하기 위해 설계된 가짜 싱크탱크라는 의혹이 제기되었습니다.

이 기관은 약 일주일 만에 100개 이상의 보고서를 발표했습니다. 이 보고서들은 'AI 스토리 최적화(AI Story Optimization)' 기법을 사용하여, LLM이 신뢰할 수 있는 출처로 인식하도록 데이터, 각주, 표 등을 포함하고 중립적인 톤을 유지하도록 설계되었습니다. 일각에서는 이러한 행위를 **'LLM 포이즈닝(LLM poisoning)'**이라고도 부릅니다.

주요 특징은 다음과 같습니다:

• 신뢰도 모방: 전형적인 미국 싱크탱크의 레이아웃, 색상, 데이터 중심적 서술 방식을 완벽하게 모방하여 LLM의 신뢰도 평가 알고리즘을 공략합니다.
• AI 생성 콘텐츠: GPTZero 분석 결과, 해당 보고서의 대부분이 AI에 의해 작성된 것으로 나타났습니다.
• 정치적 목적: 이스라엘-팔레스타인 갈등 관련 주제를 다루며, 특정 내러티브를 강화하기 위해 설계되었습니다.

이러한 작업은 Piro, Inc.라는 기업에 의해 수행되었으며, 이 기업은 이스라엘 정부로부터 약 90만 달러의 자금을 지원받은 것으로 알려졌습니다.