해커들이 ChatGPT와 Gemini를 조작해 사용자를 사기 콜센터로 유도함

공격자들이 웹에 가짜 연락처와 지원 페이지를 대량 게시해 ChatGPT, Gemini, Google AI Overview가 이를 신뢰할 만한 답변으로 제공하도록 유도하는 실제 공격이 발견됨 탐지 결과 374개 기업이 공격 대상에 포함됐으며, 주요 항공사와 은행, 여행 플랫폼, 소프트웨어 업체를 사칭한 악성 페이지 수만 개가 확인됨 공격에는 생성형 엔진 최적화(GEO) 가 활용됨. 가짜 번호 반복, 문답 구성, 여러 사이트에 동일 정보 게시, 실제 정보와 허위 정보 혼합으로 AI의 인용 가능성을 높임 답변 오염은 매번 재현되지는 않음. LLM 출력의 비일관성 때문에 같은 질의에서도 결과가 달랐으며, 공격 콘텐츠가 정교할수록 가짜 번호를 인용할 가능성이 높았음 자동 게시와 삭제 페이지의 보존본 때문에 게시물 삭제만으로 대응하기 어려움. Google은 신고를 보상 프로그램 범위 밖으로 분류했고, OpenAI는 재현 불가로 종결함 웹 정보를 통한 AI 답변 오염 공격은 사람뿐 아니라 웹을 탐색하는 AI 에이전트를 겨냥함. 게시물, PDF, 리뷰, 가짜 지원 페이지를 통해 사기 전화번호, 이메일 주소, 로그인 페이지를 정상적인 기업 정보처럼 답변에 끼워 넣음 GEO(Generative Engine Optimization) 는 생성형 AI가 특정 콘텐츠를 인용하도록 유도하는 최적화 기법임 통계나 유명 전문가의 인용문을 덧붙여 특정 정보의 신뢰도를 높이는 방식이며, 마케팅에서는 브랜드 인용을 늘리는 데 활용함 공격자는 같은 기법을 허위 정보에 적용해 조직의 연락처 등 AI가 제공하는 정보를 바꾸려 함 AI 답변을 검증하지 않는 이용 행태는 이러한 공격과 맞물림. Exploding Topics의 연구에 따르면 사용자 92%가 AI 답변을 검증하지 않음 탐지 방식과 확인된 공격 규모 탐지 시스템은 Gemini, ChatGPT, Google AI Overview의 답변과 참조 출처를 분석함 출처와 가져온 콘텐츠를 평가하고, 허위 정보를 확산하는 GEO 기법을 찾음 잘못된 전화번호, URL, 이메일 주소 등이 인용되면 사고로 기록함 Fortune 100 기업, 은행, 항공사, 소프트웨어 업체 등을 대상으로 실행함 총 374개 기업을 겨냥한 공격과 악성 페이지 수만 개를 탐지함 항공사는 Delta, Lufthansa, United Airlines, Emirates, Qatar Airways 등이 포함됨 은행은 Bank of Amer...