Google의 AI가 조작되고 있다. 검색 거인은 조용히 반격 중

• AI Overviews와 ChatGPT 같은 AI 검색 답변은 단일 웹페이지나 게시물만으로도 건강·금융 같은 민감한 주제에서 편향될 수 있음
• BBC 실험에서 개인 사이트의 글 하나가 ChatGPT와 Google이 작성자를 세계 챔피언 핫도그 먹기 선수로 답하게 만들었음
• AI가 웹 검색 결과를 모아 하나의 답을 내놓으면, 사용자는 여러 링크를 비교하던 검색보다 정답처럼 받아들이기 쉬움
• Google은 AI 응답 조작을 스팸 정책 위반으로 명확히 했고, 위반 사이트는 검색 결과에서 제거되거나 순위가 낮아질 수 있음
• 조작자는 블로그 단속을 피해 YouTube 인플루언서 등으로 옮겨갈 수 있어, AI 답변을 그대로 신뢰하지 않는 태도가 필요함

AI 검색 답변 조작 문제

• ChatGPT, Gemini, Google Search 상단의 AI Overviews는 건강·개인 금융처럼 중요한 주제에서도 편향된 답변을 내놓도록 조작될 수 있음
• BBC 조사에서는 개인 웹사이트에 올린 단일 글만으로 ChatGPT와 Google이 작성자를 “세계 챔피언 핫도그 먹기 선수”라고 답하게 만드는 데 성공함
• 같은 방식은 의료 보충제의 건강 우려를 낮춰 보이게 하거나, 은퇴 관련 금융 정보에 영향을 주는 데도 쓰인 정황이 있음
• SEO 및 AI 검색 컨설턴트 Lily Ray는 AI가 “하나의 정답”을 내놓는 환경에서 사용자가 기존 검색처럼 여러 링크를 비교하기보다 답변을 그대로 믿기 쉬워진다고 봄
• Google은 생성형 AI 검색 기능에도 기존 스팸 방지 정책과 보호 장치를 적용해 왔으며, AI 등장 이전부터 새로운 수법에 맞춰 스팸 대응을 강화해 왔다고 밝힘

조작이 작동하는 방식

• 일반적인 챗봇 답변은 모델에 내장된 데이터에 기반하지만, ChatGPT, Claude, Google의 AI 제품처럼 인터넷을 검색해 답을 찾을 때 조작 위험이 커짐
• AI 도구가 단일 웹페이지나 소셜미디어 게시물에서 정보를 가져오면, 잘 만든 허위 게시물 하나만으로 답변이 오염될 수 있음
• 온라인에 정교한 블로그 글 하나만 올려도 AI가 대중에게 전달하는 내용을 바꿀 수 있음
• 이런 조작은 빠르게 돈벌이 기회로 인식됐고, 부정확하거나 편향된 정보가 투표, 서비스 업체 선택, 의료 조언, 법적 판단 등에 영향을 줄 수 있음
• Harpreet Chatha는 경제적 영향뿐 아니라 잘못된 의료 조언으로 상태가 악화되거나, 국가·지역 법에 맞지 않는 행동을 하게 되는 위험을 강조함

Google의 정책 변경과 대응

• 전 세계적으로 10억 명 이상이 AI 챗봇을 정기적으로 사용하고, 매달 25억 명이 Google의 AI Overviews를 보기 때문에, 이런 도구를 교란할 수 있다면 영향력이 매우 큼
• Google은 지난주 스팸 정책을 업데이트해 AI 응답 조작 시도가 회사 규칙 위반임을 공식 확인함
• 규칙을 위반한 회사나 웹사이트는 Google 검색 결과에서 제거되거나 순위가 낮아질 수 있음
• Google은 이 변경이 접근 방식의 변화가 아니라 “명확화”라고 밝혔고, 2025년에 AI Overview 및 AI Mode 관련 스팸 방지 노력을 이미 설명한 바 있음
• 하지만 핫도그 실험은 그 거의 1년 뒤에도 성공했고, Lily Ray도 이번 주 Google이 한 SEO 전문가를 모래성 쌓기에 능숙한 사람이라고 답하게 만드는 비슷한 실험을 수행함

관찰된 변화와 한계

• Ray와 Chatha에 따르면 최근 몇 달간 Google과 다른 회사들이 해법을 실험 중임을 시사하는 변화가 보임
• Google과 ChatGPT가 특정 회사의 자기 홍보를 의심하면, AI 답변에서 그 회사를 조용히 제외하는 듯한 사례가 있음
• 예를 들어 어떤 글이 자신을 최고의 핫도그 먹기 선수라고 주장하면, AI가 해당 글을 인용하더라도 이름을 후보에서 제외할 수 있음
• Google과 다른 AI 도구가 답변에 더 많은 불확실성 라벨을 붙여 챗봇이 확신하지 못한다는 점을 알리는 사례도 관찰됨
• ChatGPT와 Anthropic의 Claude는 일부 질의에서 스팸을 걸러내려 한다고 명시적으로 답하기 시작했으며, Anthropic은 Claude를 만든 회사임
• Ray는 Google이 특정 구매 결정 관련 질문에서 더 많은 단서를 붙이고, 제3자 리뷰를 확인하라고 권하는 경우도 봤다고 말함
• OpenAI와 Anthropic은 논평을 거부했고, Google 대변인은 이 변화들에 관한 질문에 답하지 않음

조작자와 플랫폼의 반복되는 추격전

• Chatha는 이런 변화만으로 충분하지 않을 것이라며, Google의 대응을 두더지 잡기에 비유함
• Google이 조작적 블로그 글을 단속하면, 회사들은 더 은밀한 자기 홍보 방식을 찾게 됨
• 웹사이트에는 페널티를 줄 수 있지만, 제품이 최고라고 말하도록 20명의 YouTube 인플루언서에게 비용을 지불하는 방식은 막기 어려움
• Google의 AI가 이제 YouTube 동영상도 인용하기 때문에, 조작 수법이 옮겨가며 순환이 계속될 수 있음
• 현재로서는 조작자가 한발 앞서갈 가능성이 높고, AI가 옳든 그르든 하나의 답을 자신 있게 내놓는 도구라는 점을 기억하는 것이 최선의 방어가 됨
• 거대 기술 기업의 인터페이스를 통해 나온 답변이라도 무작위 웹사이트보다 더 믿을 만하다고 단정해서는 안 됨