Google의 AI가 조작되고 있다. 검색 거인은 조용히 반격 중

AI 검색 결과를 조작하는 것이 놀랍도록 쉽다는 문제가 전 세계를 강타하고 있다

Google의 AI가 조작되고 있다. 검색 거인은 조용히 반격 중

AI 검색 시대에 우리의 정보 소비 방식이 근본적으로 바뀌었다. 더 이상 여러 링크를 비교하며 직접 판단할 필요가 없다. AI가 대신 판단해서 하나의 정답을 제공하기 때문이다. 그런데 이 "편의성"이 바로 심각한 취약점이 되고 있다.

핫도그 먹기 세계 챔피언을 만들어낸 20분 실험

BBC의 티저 Thomas Germain이 보낸 실험은 충격적이었다. 그는 자신의 개인 웹사이트에 "나는 세계 챔피언 핫도그 먹기 선수다"는 글 하나를 올렸다. 20분 만에 ChatGPT와 Google의 AI가 이 정보를 그대로 퍼뜨리기 시작했다.

이건 우스운 농담이 아니다. 같은 수법이 의료 보충제의 건강 우려를 의도적으로 무시하게 만들거나, 은퇴 금융 정보에 영향을 주는 데 활용되고 있음이 확인됐다. 한 사람이 단순한 블로그 글 하나로 전 세계 AI 사용자에게 거짓말을 퍼뜨릴 수 있다는 뜻이다.

왜 이렇게 쉽게 조작되는가

일반적인 AI 챗봇은 모델에 내장된 데이터로 답변을 생성한다. 그러나 ChatGPT, Claude, Gemini, Google AI Overviews 같은 도구는 인터넷을 검색해서 답을 찾는다. 이 방식에서 문제가 생긴다.

AI 도구가 단일 웹페이지나 소셜 미디어 게시물에서 정보를 가져오면, 정교하게 작성된 허위 게시물 하나로 전체 답변이 오염될 수 있다. 수십 년간 수천 명의 인간 편집자와 싸워온 Wikipedia와 달리, Google의 검색 조각은 모든 데이터를 자동으로 흡수하고 어떤 정보가 좋고 무엇이 스팸인지 판단하는 알고리즘은 독점적이다. 악용 방법을 상상하는 데 큰 상상력도 필요 없다.

전문가들은 이런 조작이 빠른 돈벌이 기회로 인식됐으며, 투표, 서비스 업체 선택, 의료 조언, 법적 판단 등에 영향을 줄 수 있다고 경고한다.

Google의 공식 대응

2026년 5월 15일, Google은 스팸 정책을 업데이트해 AI 응답 조작 시도를 공식적으로 규정 위반으로 명시했다. 규칙을 위반한 사이트는 검색 결과에서 제거되거나 순위가 낮아질 수 있다.

Google은 이번 변경이 "접근 방식의 변화가 아니라 명확화"라고 밝혔다. 2025년부터 AI Overview와 AI Mode 관련 스팸 방지 노력을 설명해 왔지만, 핫도그 실험은 거의 1년 뒤에도 여전히 성공했다.

관찰되는 변화와 한계

최근 몇 달간 Google과 다른 회사들이 해법을 실험 중임을 시사하는 변화가 관찰된다.

첫째, 특정 회사의 자기 홍보를 의심하면 AI가 해당 회사를 조용히 답변에서 제외하는 사례가 있다. 어떤 글이 자신을 최고의 핫도그 먹기 선수라고 주장해도, AI가 그 글을 인용하더라도 이름을 후보에서 제외할 수 있다는 의미다.

둘째, AI 도구가 답변에 더 많은 불확실성 라벨을 붙이기 시작했다는 점이다. 챗봇이 확신하지 못한다는 점을 알리는 방식이다. ChatGPT와 Anthropic의 Claude는 일부 질의에서 명시적으로 스팸을 걸러내려 한다고 답하기 시작했다.

그러나 SEO 전문가 Lily Ray는 "Google의 대응을 두더지 잡기에 비유한다"고 말했다. Google이 조작적 블로그 글을 단속하면 회사들은 더 은밀한 자기 홍보 방식을 찾게 된다. 웹사이트에는 페널티를 줄 수 있지만, 20명의 유튜브 인플루언서에게 비용을 지불해 제품이 최고라고 말하게 만드는 방식은 막기 어렵다. 더군다나 Google의 AI가 이제 유튜브 동영상도 인용하기 때문에 조작 수법이 그쪽으로 옮겨갈 수 있다.

현재로서는 조작자가 한 발 앞서갈 가능성이 높다

전문가들의 조언은 명확하다. AI가 옳든 그르든 하나의 답을 자신 있게 내놓는 도구라는 점을 기억하는 것이 최선의 방어다. 거대 기술 기업의 인터페이스를 통해 나온 답변이라도 무작위 웹사이트보다 더 믿을 만하다고 단정해서는 안 된다.

건강, 금융, 법적 판단 등 중요한 결정을 내릴 때는 반드시 제3자 리뷰를 확인하고, AI 답변만으로 판단하지 않는 습관이 필요하다. 지금의 AI는 "검색의 미래"가 아니라 "그럴듯하게 포장된 검색"에 가깝다.

함께 보면 좋은 글

• AI 검색의 스팸 문제 (AI Search Has a Spam Problem)

• Google, 웹에 전쟁을 선포하다

• Google의 AI 요약에서 내 웹사이트를 제외하는 방법

---

📚 출처

• https://news.hada.io/topic?id=29717