Reddit 데이터 기반 AI 검색 조작 위험성 확인

연구 결과에 따르면, Reddit, Wikipedia, Quora, Facebook과 같은 UGC(사용자 생성 콘텐츠) 웹사이트에서 가져온 단 13단어 정도의 아주 짧은 텍스트 조각만으로도 AI 에이전트의 출력을 스팸(Spam)이나 사기(Scam) 콘텐츠로 일관되게 변경할 수 있는 것으로 나타났다.

이는 AI 모델이 검색 엔진이나 외부 데이터를 참조하여 답변을 생성할 때, 신뢰할 수 없는 소스의 데이터가 모델의 출력 결과에 얼마나 치명적인 영향을 미칠 수 있는지를 보여준다. 특히 AI 에이전트가 웹 검색을 통해 정보를 수집하고 작업을 수행하는 비중이 높아짐에 따라, 이러한 데이터 오염(Data Poisoning) 공격에 대한 보안 위협이 더욱 커질 것으로 전망된다.