ChatGPT, 사기성 가짜 쇼핑몰 추천 사례 발생

ChatGPT가 사용자에게 사기성 온라인 쇼핑몰 및 가짜 웹사이트를 추천하는 사례가 보고되었습니다. 조사 결과, 시스템이 이미 파산한 브랜드의 **클론 웹사이트(Cloned websites)**를 사용자에게 안내하는 것으로 나타났습니다.

전문가들은 이러한 현상의 원인으로 모델의 학습 데이터에 악의적인 콘텐츠가 포함되는 데이터 포이즈닝(Data Poisoning) 가능성을 제기하고 있습니다.

특히 아마존과 구글 등 빅테크 기업들이 사용자를 대신해 구매를 수행하는 AI 에이전트(AI Agents) 도입을 가속화하고 있는 시점에서, 이러한 보안 취약점은 매우 심각한 문제로 지적됩니다. 당국은 챗봇의 추천 정보를 항상 재확인할 것을 권고하고 있습니다.