Google의 AI가 조작되고 있다. 검색 거인은 조용히 반격 중

BBC가 확인한 실험에서 개인 웹사이트의 단일 글만으로도 ChatGPT와 Google AI Overviews가 작성자를 “세계 챔피언 핫도그 먹기 선수”로 답하게 만들 수 있었다.

핵심 문제는 AI 검색이 여러 출처를 종합해 한 문장짜리 정답처럼 제시되면서, 사용자가 기존 검색보다 결과를 덜 의심하게 된다는 점이다. 건강 보충제, 은퇴·금융 정보처럼 민감한 주제에서도 이런 조작 가능성이 확인됐다.

Google은 지난주 스팸 정책을 업데이트해, AI 응답을 조작하려는 시도를 명시적으로 위반으로 규정했다. 위반 사이트는 검색 결과에서 제거되거나 순위가 하락할 수 있다.

다만 기사에 따르면 조작은 블로그 스팸에서 끝나지 않을 수 있다. 블로그 단속이 강화되면, 조작자들은 YouTube 인플루언서 같은 더 은밀한 채널로 이동할 수 있고, Google의 AI가 YouTube까지 인용하기 때문에 추격전은 계속될 가능성이 크다.

최근에는 Google과 다른 AI 제품들이 일부 질의에서 불확실성 라벨을 더 자주 붙이거나, 제3자 리뷰를 확인하라고 안내하는 등 대응을 실험하는 모습도 보인다. 하지만 전문가들은 이런 대응만으로는 충분하지 않으며, AI가 자신 있게 내놓는 답변도 여전히 검증 없이 믿어서는 안 된다고 본다.