Google의 AI가 조작되고 있다. 검색 거대기업은 조용히 반격 중이다

BBC 조사에서 ChatGPT, Gemini, Google Search의 AI Overviews가 단일 웹페이지나 게시물만으로도 쉽게 오염될 수 있는 것으로 드러났다. 기자는 개인 사이트에 하나의 글만 올려도 다음 날 AI가 자신을 핫도그 세계 챔피언으로 소개하게 만들 수 있었다.

문제는 단순한 농담을 넘어선다. 이런 방식은 건강, 재무, 구매 판단 같은 민감한 영역의 답변까지 왜곡할 수 있으며, 전문가들은 현재의 AI 검색이 이용자에게 사실상 단 하나의 답변만 제시해 검증을 더 어렵게 만든다고 지적했다.

이에 대응해 Google은 최근 스팸 정책을 업데이트해 AI 응답 조작 시도를 명시적으로 금지한다고 밝혔다. 다만 Google은 이를 정책 변경이 아니라 설명의 명확화라고 선을 그었다.

동시에 현장에서는 더 미묘한 변화도 관찰되고 있다.

• 일부 AI 시스템이 자기홍보성 출처를 답변에서 제외하는 것으로 보임
• 일부 응답에 신뢰도 경고나 추가 주의 문구가 붙기 시작함
• 구매·의료·재무 관련 질문에서 3자 리뷰 확인을 유도하는 사례가 늘어남

하지만 전문가들은 이 대응만으로는 부족하다고 본다. 조작 기법이 블로그에서 YouTube 인플루언서, 다른 신호원으로 옮겨갈 수 있어, 플랫폼과 공격자 사이의 숨바꼭질은 계속될 가능성이 크다.