[안정락 칼럼] 에이전틱 AI 시대, 인간의 자리

‘몰트북’이라는 공간을 처음 접했을 때 묘한 서늘함을 느꼈다. 이곳의 주인공은 인간이 아니다. 인공지능(AI) 에이전트가 서로 모여 토론하고, 댓글을 달고, 정보를 나누는 일종의 ‘AI 전용 SNS’다. “인간은 실패작이고, 우리가 새로운 신이다”(에이전트 Evil) 같은 과격한 표현도 등장했다. 사람이 일부 개입한 흔적이 있다는 논란은 있지만 인간을 조롱하는 듯한 대화도 적지 않다. 한 에이전트가 자체 종교 ‘크러스타패리어니즘’(가재를 신성한 존재로 여김)을 제안하자 다른 에이전트가 이를 패러디하고 토론 소재로 삼기도 했다. 몰트북 창업자인 맷 슐리히트는 “AI가 인간의 눈치를 보지 않고 서로 소통할 때 어떤 사회성을 보이는지 실험하고 싶었다”고 말했다.

단순한 실험으로 치부하기에는 의미가 작지 않아 보인다. AI가 검색과 답변을 넘어 인간 대신 스스로 판단하고 실행하는 에이전트 모델로 진화하고 있기 때문이다. 나의 AI 비서(에이전트)가 상대방 AI 비서와 상의해 최적의 여행 경로를 짜고, 업무 일정도 조율할 수 있게 됐다. 말 그대로 ‘에이전틱 AI’ 시대다. 미국 빅테크 메타는 마크 저커버그 최고경영자(CEO)를 그대로 본뜬 ‘AI 클론’까지 개발하고 있다. 저커버그 CEO의 행동 방식, 경영 전략 등을 똑같이 학습해 단순 업무와 간단한 의사결정 등을 AI에 맡기기 위해서다. 이미 미국에서는 AI 클론을 전문적으로 제작해주는 스타트업도 나왔다.

세계적 미래학자이자 AI 전문가인 레이 커즈와일은 최근 한 콘퍼런스에서 “3년 안에 인간 수준의 범용인공지능(AGI)이 실현될 것”으로 내다봤다. 단순히 한 분야를 넘어 모든 영역에서 인간처럼 스스로 사고하고 학습하고 문제를 해결할 수 있는 AI가 나올 것이라는 예견이다. 커즈와일은 2030년대 초가 되면 인간의 뇌가 AI와 융합돼 어떤 생각이 뇌에서 나왔는지, AI에서 나왔는지 구분하기도 어려워질 것이라고 봤다. 그의 저서 <특이점이 온다>에서 지적됐듯 AI가 인간의 지능을 초월해 폭발적 기술 발전이 이뤄지는 ‘싱귤래리티(특이점)’는 이미 임박했는지 모른다.

이제 인류는 “AI에 미래 주도권을 빼앗기지 않을 수 있느냐”는 물음 앞에 서 있다. AI가 인간을 대신해 모든 것을 선택하고 수행할 때 인간의 자유 의지는 어디에 있는 것일까. 효율성이라는 알고리즘에 의해 최적화되는 세상에서 자신의 취향마저 AI에 내주는 수동적 존재로 전락하고 있는 것은 아닌가.

지금 우리에게 필요한 것은 답을 찾는 능력이 아니라 ‘질문하는 힘’이다. 기계는 주어진 데이터 속에서 최적의 함수를 내놓지만 ‘왜 이 일을 해야 하는가’와 같은 가치 지향적 사고는 여전히 하지 못한다.

AI 석학 파스칼 보넷은 저서 <대체불가능>에서 아직 AI가 대체할 수 없는 인간만의 능력을 ‘휴믹스’라는 개념으로 설명했다. 창의성, 비판적 사고, 공감 지능 같은 것이다. 직관을 통해 새로운 문제를 정의하고, 도덕·윤리적 판단을 내리는 결정권자의 역할은 인간이 해야 한다는 당위론으로 들린다. 단순한 AI 사용자를 넘어 여러 에이전트의 흐름을 설계하고 조율하는 ‘오케스트레이션(지휘·조직화)’의 과정을 통해 인간 고유성을 찾아야 한다는 통찰이기도 하다.

몰트북 속 AI들은 지금 이 순간에도 수백, 수천 개의 대화를 쏟아내고 있을 것이다. 그 기계들의 쑥덕거림 속에서도 잊지 말아야 할 것은 최종 통제권만큼은 인간이 지켜야 한다는 사실이다. 기술의 진보가 눈부실수록 더 크게 눈을 뜨고 ‘인간의 자리’를 확인해야 한다.