Reddit을 이용해 AI 검색을 조작하는 일은 너무 쉽다

코넬 대학교 연구진은 단 13단어 정도의 짧은 텍스트만으로도 ChatGPT나 Google AI 검색과 같은 AI 에이전트의 출력을 스팸이나 사기 콘텐츠로 조작할 수 있음을 입증했습니다.

연구에 따르면, 실시간 웹 스크래핑을 통해 정보를 검색하는 Deep-research agents는 전체 쿼리의 약 절반에서 Reddit이나 Wikipedia 같은 사용자 생성 콘텐츠(UGC)를 인용하며, 인용문의 약 1/4이 이러한 UGC 사이트에서 발생합니다.

주요 연구 결과는 다음과 같습니다:

• AEO(AI Engine Optimization): 브랜드들이 AI 도구의 답변을 조작하기 위해 Reddit, Quora 등에 허위 콘텐츠를 심는 행위가 급증하고 있습니다.
• 광범위한 영향력: 단 하나의 조작된 Reddit 댓글만으로도 관련된 일련의 AI 쿼리 전체에 대해 생성된 답변을 오염시킬 수 있습니다.
• 취약성: UGC 사이트의 데이터가 AI 모델의 신뢰성을 결정짓는 핵심 요소가 되면서, 플랫폼의 콘텐츠 관리 문제가 AI 시스템의 보안 문제로 직결되고 있습니다.