“SNS AI 봇, 친근할수록 더 못 알아본다”…탐지율 38% 불과

소셜미디어(SNS)에서 인공지능(AI)이 작성한 댓글을 이용자가 구별해내는 비율이 40% 수준에 불과한 것으로 나타났다. 특히 공격적이거나 부정적인 댓글보다 긍정적이고 친근한 말투를 사용하는 AI 봇 정체를 파악하기가 더 어려운 것으로 조사됐다. 사이버보안 기업 서프샤크(Surfshark)가 전 세계 참가자 1722명을 대상으로 진행한 AI 봇 식별 시뮬레이션 분석 결과, 참가자들은 SNS에서 활동하는 AI 봇을 평균적으로 절반도 채 구별하지 못했다. 긍정적이고 친근하며 논리적인 말투를 사용하는 봇에 대한 탐지율은 38%까지 떨어졌다. 루이스 코스타(Luis Costa) 서프샤크 리서치·인사이트 책임자는 “정교한 조작 캠페인에 활용되는 AI 기반 계정은 상대 의견에 쉽게 동조하거나 논리적이고 평범한 방식으로 행동하는 경우가 많다”며 “이런 계정은 실제 이용자 의견에 힘을 보태고 댓글 수를 늘리는 것만으로도 소수 의견을 마치 다수 의견인 것처럼 보이게 만들 수 있다”고 설명했다. 반면에 부정적이고 공격적인 성향을 보이는 AI 봇은 상대적으로 쉽게 식별됐다. 시뮬레이션 참가자들은 부정적인 AI 봇의 50.2%를 가려냈다. 코스타 책임자는 “SNS에서 화난 악플러는 누구나 알아보기 때문에 자주 들통나는 것도 이런 유형”이라고 말했다. 긍정적이고 친근한 방식으로 접근하는 봇은 탐지율이 38%로 떨어졌다. 두 유형 사이에는 12%포인트(P) 이상 차이가 발생했다. 이용자 경계심을 자극하지 않고 자연스럽게 대화에 참여하는 방식이 AI 봇 식별을 어렵게 만드는 요인으로 분석된다. 문제는 이 같은 AI 봇이 단순히 댓글을 늘리는 수준을 넘어 사회공학적 공격이나 허위정보 확산에 활용될 수 있다는 점이다. 이용자는 자신에게 우호적인 상대를 위협적인 존재로 인식하지 않는 경향이 있어 개인 메시지(DM)로 대화를 옮기거나 개인정보를 공유하고, 상대방이 게시한 링크를 클릭할 가능성이 높아질 수 있다. 특히 논리적이고 자연스러운 방식으로 전달되는 허위정보는 이용자가 상대방이 AI라는 사실을 인지하기 전에 정치·사회적 견해에 영향을 미칠 가능성도 있다. 한국언론진흥재단의 '디지털 뉴스 리포트 2026'에서도 국내 응답자 59%가 온라인 허위정보를 우려한다고 답했다. 이는 전년보다 4%P 증가한 수치다. AI 봇을 판별하는 단서로 알려진 이모지 사용 역시 결정적인 기준이 되기는 어려운 것으로 나타났다. 시뮬레이션에서는 이모지를 많이 사용하...