[MZ 톡톡] AI, 무엇을 믿지 않을 것인가

나와 내 가족, 친구의 얼굴이 등장하는 영상이 온라인에서 확산하고 있다고 가정해보자. 표정과 말투, 고개를 끄덕이는 모습까지 자연스럽다. 이것이 인공지능(AI)이 만든 가짜 영상이라는 사실을 알게 되더라도 그 순간부터 우리는 눈앞에 보이는 것의 어디까지를 진짜로 받아들여야 하는지 혼란스러워진다. 연예인이나 정치인 얼굴이 조작된 가짜 영상이 빠르게 확산해 범죄와 사회 문제로 번지는 현상이 벌어진다.

생성형 AI는 언제나 빠르고 확신에 찬 답을 내놓는다. 그럴수록 사람들은 대신해준 판단의 효율성과 편의성에 익숙해진다. 그러나 의존이 깊어질수록 심화하는 인지적 오프로딩은 단순히 생각을 덜 하게 만드는 데 그치지 않는다. 이제는 무엇을 믿어야 하는지 따지는 기준마저 AI에 기대는 상태로 이어진다.

현실과 조작의 경계는 더 흐려진다. AI 이미지와 영상은 현실을 충실히 재연하기보다 감정을 더 극적으로 자극한다. 교실에 강아지가 들어온 장면보다 맥락 없이 코끼리가 등장하는 영상이 SNS에서 더 큰 주목을 받는 이유다. 그 장면이 진짜인지 가짜인지는 부차적인 문제다. 무엇이 더 이목을 끄는지가 콘텐츠의 힘을 가르는 기준이 된다. 대중에게는 인상적인 것이 사실처럼 받아들여진다.

최근 맥도날드 네덜란드의 크리스마스 광고가 공개 직후 삭제된 사건은 이 같은 흐름에 경고를 준 사례다. 크리스마스에 재난이 발생해 사람들이 맥도날드로 대피한다는 설정의 이 광고는 AI를 통해 각종 재난 장면을 구현하는 데 기술적으로 무리가 없었다. 그러나 사람들은 이를 상상력이나 유머로 받아들이지 않았고, 기념일을 재난의 이미지로 소비했다는 점에서 불편함을 느꼈다. 무엇이든 만들어낼 수 있다는 사실보다 그 결과물을 어디까지 수용할 것인가에 대한 기준이 공유되지 않았음을 드러냈다.

국내에서도 가짜 의사 광고, 유명인을 사칭한 사이버 범죄가 증가하고 있다. 이에 따라 안전한 활용 가이드라인과 피해 방지법 마련의 필요성이 커지고 있다. 기술 발전 자체를 제한하자는 이분법적 접근은 현실적이지 않다. 중요한 것은 이 기술이 어떤 조건이나 환경에서 작동해도 괜찮은지를 사회가 분명히 정하는 일이다. 정보 비대칭성이 큰 금융, 법률, 의료 영역에서 AI가 소비자 판단에 미치는 영향을 고려한 정교한 규범이 요구된다.

앞으로 진짜보다 더 진짜처럼 보이는 결과물이 나올 것이다. 그럴수록 중요한 질문은 어떤 판단까지 맡길 수 있느냐가 아니다. 오히려 어떤 판단만큼은 맡기지 않겠다고 결정할 수 있는가에 가깝다. 지금 결정하지 않는다면 그 빈자리는 계속 다른 방식으로 채워질 뿐이다.