[율곡로] 하고 싶어도 쉽지 않은 'AI 속도조절'

바벨탑 교훈보다 강력한 욕망과 불신의 본능…美中 AI 쟁패는 오히려 가속 중 (서울=연합뉴스) 이승우 선임기자 = 인공지능(AI)이 두려울 만큼 빠르게 발전하면서 AI 개발 속도를 늦춰야 한다는 속도 조절론이 대두됐다. AI 개발까지 AI에 맡기는 비율이 늘자 언젠가는 재귀적 자기개선(RSI)을 통한 '지능 폭발'이 일어나 인류가 멸망하거나 소외될 것이란 극단적 전망까지 나오면서다. 학계는 물론 해당 업계에서조차 AI 개발을 통제하자고 요구할 만큼 위기감이 커졌다. 최근 AI 석학과 빅테크 책임자 22명은 무분별한 AI 개발 위험성을 경고하며 안전장치 마련을 촉구하는 논문을 공동 발표했다. 이미지 확대 인공지능(AI) [로이터=연합뉴스 자료사진. 재판매 및 DB 금지] 논문에는 'AI 아버지' 제프리 힌턴 토론토대 명예교수 같은 학자들 외에도 잭 클라크 앤트로픽 공동창업자, 야쿠프 파호츠키 오픈AI 수석과학자, 에릭 호비츠 마이크로소프트(MS) 최고과학책임자(CSO), 던 송 메타 AI 연구 담당 부사장 등 현업 AI 기술 책임자들이 참여했다. 이들은 AI의 탄생과 개발을 국제적으로 주도해온 인물들인데도 "이젠 쉬어갈 때"라는 주장을 내놓고 있다. 이들의 우려는 AI 에이전트의 동작을 인간 역량으로 감독하기 어려워 다른 AI를 투입해 감시해야 할 위기에 달했다는 것으로 요약된다. AI는 이렇듯 인류에게 실체적 위협으로 부상했다. 하지만 속도 조절론이 실제로 현실에서 먹힐지는 또 다른 문제다. 변하기 힘든 인간 본성 탓에 속도 조절은 결국 어려울 거란 전망이 많다. 명분이 있고 필요성을 알아도 결국 인간 본성의 DNA는 실리를 좇도록 설계돼 있다. 앞으로 모든 분야를 지배할 게 뻔히 예고된 AI 기술 패권을 놓치고 싶은 국가나 기업은 없다. 뒤처질 경우 단순히 도태 수준을 넘어 완전 소멸로 이어지는 생존 문제가 되기 때문이다. 구약 성경에 나오는 바벨탑 일화 역시 알아도 멈출 수 없는 인간의 욕심, 교만, 경쟁심을 드러내는 서사다. 이처럼 인간 본능의 한계로 브레이크를 밟을 수 없는 구조적 상황은 게임이론을 비롯한 사회과학에서 여러 용어로 개념화됐다. '죄수의 딜레마'와 '치킨 게임'이 대표적이다. 죄수의 딜레마는 두 주체가 서로 협력하면 최선에 도달할 수 있지만, 결국 상대를 불신해 각자 이익을 추구하다 모두 최악의 결과를 맞는다는 개념이다. 치킨 게임에선 서로를 향해 정면 돌진하는 두 운전자 중 먼저 핸들을 ...