AI의 ‘인간증명’[횡설수설/김창덕]

올해 4월 초강력 인공지능(AI)의 등장에 세계가 발칵 뒤집혔다. 미국 앤스로픽이 개발한 ‘미토스’가 수십 년간 숨어 있던 보안시스템 결함을 찾아낸 것까지는 박수를 칠 만했다. 하지만, 전체 시스템 통제 권한을 가지려 한다든지, 그런 시도의 흔적을 지우기까지 한 사실이 드러나면서 경외심은 두려움으로 바뀌었다. 8월에는 경쟁사인 오픈AI가 차세대 모델 ‘아스트라’의 존재를 밝힌 지 엿새 만에 개발을 일부 중단했다. ‘위험’ 단계의 능력이 발견돼 통제가 우려된다는 이유에서였다. ▷아스트라는 급기야 ‘인간 증명’까지 받았다. ‘로봇이 아닙니다(I’m Not a Robot)’라는 이름의 테스트를 최종 48단계까지 통과한 것이다. 웹사이트 접속 시 휘어진 모양의 알파벳과 숫자를 맞히게 하거나 사진 속 특정 사물의 위치를 찾으라고 할 때가 있다. 사람이면 보통 한두 문제로 끝나지만, ‘자동 정보 수집 로봇’ 접속이 의심되는 상황에선 다른 문제가 연이어 출제된다. 아스트라는 사람만큼 정답을 맞혔고, 마우스 포인터도 사람처럼 움직여 마지막까지 AI라는 사실을 들키지 않았다. AI가 이런 인증 방식을 무력화하고 어떤 사이트든 제집 드나들 듯 할 수 있게 된 셈이다. ▷AI의 지능 수준을 가장 먼저 인지하고 또 위협을 느끼는 것은 그 기업의 개발자들이다. 오픈AI 최고과학자 야쿠프 파호츠키는 최근 “기계 지능의 지속적인 급속한 발전이 초래할 결과에 아무도 대비하지 않고 있다는 점이 우려스럽다”고 했다. 지금의 AI는 스스로 자기 능력을 개선하고 있다. 언젠가 AI가 인간을 위협하더라도, 인간은 그 순간을 알아채기 힘들다는 게 그의 설명이다. 앤스로픽에서도 AI 모델 훈련을 연구해 온 제이컵 콕슨이 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”면서 사표를 던졌다. ▷AI의 적절한 통제를 기업에만 맡길 수는 없는 일이다. 오픈AI에서 일하던 콕슨은 상대적으로 ‘기술 통제’를 중요시하는 앤스로픽으로 올 초 이직했다. 그러나 안전과 윤리를 전면에 내세운들 기업마저도 성장에 매몰될 수밖에 없다는 사실을 절감하고는 1년도 안 돼 아예 업계를 떠난 것이다. 국가도 마찬가지다. 중국 등의 맹추격을 따돌려야 하는 미국 정부가 빅테크들의 AI 개발 속도를 조절하라고 압박할 리 없다. ‘AI 안전장치’ 마련을 위해 기업이나 국가 차원이 아닌 전 지구적 프로젝트가 필요하다는 주장이 나오는 게 그래서다. ▷AI는 논리와 연산에서 이미 인간의...