[다산칼럼] AI 프렌드

가즈오 이시구로의 소설 <클라라와 태양>에는 인간의 친구가 되기 위해 만들어진 존재가 등장한다. ‘인공지능(AI) 프렌드’ 클라라다. 클라라는 병든 소녀 조시를 돌보며 중요한 사실을 깨닫는다. 인간을 특별하게 만드는 것은 어떤 내면의 본질이 아니라 사람들과 맺는 관계라는 점이다. 인간의 감정은 타인과의 연결 속에서 형성된다.

이 통찰은 더 이상 소설 속 상상이 아니다. 보스턴다이내믹스의 아틀라스는 산업 현장에서 조립 작업을 수행하고, 테슬라의 옵티머스도 공장 투입 시험을 진행 중이다. 샤오미는 무인 다크 팩토리를 운영한다. 인간의 육체노동을 대체하는 ‘피지컬 AI’는 이미 현실이 됐다.

그러나 변화는 노동 자동화를 넘어선다. 인공지능은 이제 인간의 몸을 넘어 마음의 영역으로 진입하고 있다. 육체노동을 대체하는 피지컬 AI가 산업 구조를 바꿨다면, 감정을 인식하고 상호작용하는 ‘이모셔널 AI’는 사회의 정서 구조를 흔들기 시작했다.

전 세계 챗봇 사용자는 수억 명 규모로 확대된 것으로 추산된다. 특히 Z세대는 인간보다 AI에게 고민을 더 쉽게 털어놓는다는 조사도 있다. 세계보건기구(WHO)에 따르면 인구 10만 명당 정신건강 전문가는 평균 13명에 불과하다. 증가하는 상담 수요를 인간 사회가 감당하지 못하면서 그 공백을 AI가 메우고 있다.

대표적 챗봇 서비스인 ‘레플리카’ 이용자의 상당수는 AI를 친구나 연인처럼 인식한다고 답한다. ‘워봇’, ‘와이사’ 같은 서비스는 디지털 상담 도구로 활용되고 있다. 일본에선 가상 캐릭터와 결혼식을 올린 이가 등장했고, 미국과 유럽에선 AI에 과도하게 몰입해 현실 관계가 단절되는 사례도 보고된다.

최근 구글 제미나이와 관련해 이용자가 심리적 혼란을 겪고 스스로 목숨을 끊었다는 의혹이 일며 소송이 제기되기도 했다. 유족 측은 자해 조장 방지 장치와 챗봇 책임 강화를 요구했다. AI와의 정서적 교류가 기술 문제가 아니라 사회적 위험으로 확장될 수 있음을 보여준다.

사람들이 AI에게 마음을 털어놓는 이유는 AI가 더 따뜻해서라기보다는 인간관계가 요구하는 책임과 상호성을 감당하지 않아도 되기 때문일지 모른다. 접속만 하면 위로를 얻을 수 있는 ‘감정의 소비재’가 등장한 셈이다.

프랑스 철학자 모리스 메를로 퐁티는 자아가 타자와의 상호작용 속에서 형성된다고 봤다. 인간은 갈등과 오해, 회복의 과정을 통해 감정을 성숙시킨다. 그러나 AI는 살아 있는 몸과 감정을 지니지 않는다. 그가 말한 의미의 상호작용은 성립하기 어렵다.

AI와의 대화가 늘어날수록 감정은 사람 사이에서 교류되기보다 개인 안에서 소비되는 경험으로 변할 수 있다. 사람과 부딪히며 다듬어지던 감정이 점점 AI에 외주화되는 것이다. 이때 나타날 수 있는 현상이 ‘정서적 사일로화(emotional siloization)’다. 감정이 사람 사이가 아니라 AI와의 일대일 관계 속에 고립되는 현상이다.

각국 정부도 대응에 나서고 있다. 유럽연합은 2024년 ‘인공지능법(AI Act)’을 통해 감정 조작과 취약계층 대상 AI를 규제하기 시작했다. 영국은 온라인안전법을 통해 챗봇 책임을 강화했고 미국 일부 주도 챗봇 책임과 미성년자 사용 제한을 논의 중이다. 기술을 인간 사회의 기준 안에 두려는 시도다.

아이러니하게도 우리는 피지컬 AI의 생산성 혁신에는 환호한다. 그러나 기술이 인간의 마음으로 들어오는 순간 문제가 훨씬 복잡해진다. 산업의 충격은 피지컬 AI에서 시작되지만, 사회적 파장은 이모셔널 AI에서 더 크게 나타날 가능성이 높다. 노동을 대체하는 피지컬 AI, 감정을 다루는 이모셔널 AI에 이어 언젠가는 인간의 판단과 선택을 대신하는 ‘코그니티브 AI’가 등장할 가능성도 배제할 수 없다.

우리는 지금 AI 시대의 초입에 서 있다. 피지컬 AI가 노동을 바꾼 첫 번째 물결이었다면, 이모셔널 AI는 관계를 바꾸는 두 번째 물결이다. 다음 물결이 무엇일지 아직 알 수 없다. 그래서 지금 필요한 것은 낙관도 공포도 아니다. 질문이다. 우리는 어디까지 AI에게 맡길 것인가. 인간을 인간답게 만드는 것은 기술이 아니라 관계이기 때문이다.