이스라엘, AI 챗봇을 속이려는 가짜 싱크탱크 설립 정황

이스라엘 정부의 의뢰를 받은 홍보 대행사 **Piro, Inc.**가 AI 챗봇의 답변을 조작하기 위해 가짜 싱크탱크인 Hanover Institute를 설립했다는 의혹이 제기되었습니다.

이들은 'AI 스토리 최적화(AI Story Optimization)' 또는 **'LLM 포이즈닝(LLM poisoning)'**이라 불리는 기법을 사용하여, LLM이 신뢰할 수 있는 정보로 판단하도록 콘텐츠를 설계합니다.

주요 전략은 다음과 같습니다:

• 신뢰도 모방: LLM이 높은 점수를 주는 구체적인 통계, 각주, 목차, 중립적인 어조를 사용하여 실제 학술 보고서처럼 보이게 합니다.
• 질문 기반 설계: 사용자가 챗봇에 입력할 법한 질문을 보고서 제목으로 설정하여, AI 답변의 소스로 채택될 확률을 높입니다.
• 정교한 외형: 미국 싱크탱크의 전형적인 레이아웃과 색상 체계를 모방하여 검색 엔진과 AI 모델 모두를 겨냥합니다.

Piro, Inc.는 이 작업을 위해 이스라엘 정부로부터 90만 달러를 받은 것으로 알려졌으며, 이는 AI 모델의 학습 데이터와 출력 결과에 영향을 미치려는 조직적인 시도로 분석됩니다.