2년 전 총선의 26배, 지선 덮친 딥페이크[횡설수설/윤완준]

1 day ago 1

2018년 온라인에 공개된 한 영상이 미국인들을 놀라게 했다. 영상 속 ‘가짜’ 버락 오바마 미국 대통령은 진지한 표정으로 이야기를 이어가다 갑자기 “이렇게 말해 볼까요. 트럼프는 완전 쓰레기”라는 말을 내뱉었다. 인공지능(AI)이 만든 정치인 딥페이크의 위험성을 일깨운 첫 사례였다. 영상 속 인물은 오바마 대통령 특유의 손동작까지 따라 했지만 입 모양과 눈의 움직임은 자연스럽지 않았다.

▷이런 어색한 딥페이크 영상은 옛날 일이 돼가고 있다. 8년 전과 달리 최근 쏟아지는 영상들은 주의 깊게 살피지 않으면 실제 장면으로 착각하기 십상이다. 영국 왕립학회가 발행하는 학술지에 실린 논문에 따르면 일반인들에게 5개 영상 중 적어도 1개가 딥페이크 영상이라는 걸 미리 알려줬음에도 딥페이크 영상을 가려낸 비율은 21.6%에 불과했다. AI 기술의 비약적인 발전 속도를 고려하면 현실과 구별이 불가능한 딥페이크 영상의 출현은 시간문제일 수 있다. 더욱이 이제 오픈 소스를 사용해 누구나 딥페이크 영상을 제작할 수 있다.

▷우리 선거에도 그런 딥페이크 기술의 그림자가 드리우고 있다. 중앙선관위가 온라인 플랫폼 사업자에게 삭제를 요청하거나 고발, 수사 의뢰한 6·3 지방선거 관련 딥페이크 게시물이 벌써 1만155건이다. 지난 총선 때는 389건이었는데 2년 만에 26배 넘게 증가했다. 3월엔 울산 지역 구청장 선거를 준비하던 인사가 자신이 미 타임지가 선정하는 올해의 인물이 됐다고 뉴스 앵커가 보도하는 딥페이크 영상을 올렸다가 고발당했다.

▷공직선거법에 따라 투표일 90일 전부터 딥페이크 영상의 유포를 아예 금지하고 있는데도 적발 건수는 폭발적으로 늘어나고 있다. 악의적인 딥페이크 영상은 기존의 허위 정보가 AI 기술의 외피를 입고 진화한 산물이다. 이를 제대로 걸러내지 못하면 사실과 거짓의 경계가 허물어지면서 선거 자체의 신뢰성까지 위협받을 수 있다. 실제 2023년 슬로바키아 총선에서 투표일 이틀 전 특정 후보가 선거 부정을 논의하는 것처럼 조작된 가짜 AI 음성이 공개됐고, 여론조사에서 앞서던 해당 후보는 결국 패했다.

▷설사 거짓이 드러난다고 해도 ‘수면자 효과(Sleeper effect)’가 발생할 수도 있다. 가짜 정보의 이미지가 머릿속에 남아 나중에는 사실을 접했던 것처럼 유권자의 선택에 영향을 미칠 수 있다는 것이다. 말초신경을 자극해 혐오와 폭력을 부추기는 딥페이크 영상은 퍼지는 속도도 빠르다. 이제 선거 관리도 AI 시대에 걸맞은 전환이 필요하다. 딥페이크 영상이 카카오톡 대화방 등 소셜미디어 곳곳을 침투하고 있는 마당에 선관위가 일일이 찾아내 삭제를 요청하고 고발하는 것만으로는 한계가 있을 수밖에 없다.