교황의 첫 회칙 “AI 무장해제”[횡설수설/김재영]

2 days ago 2

교황 레오 14세는 디지털 친화적이다. 추기경 시절부터 X(옛 트위터) 등 소셜미디어를 활용해 소통했고, 손목엔 애플워치를 즐겨 찬다. 사제가 되기 전 미국 대학에서 수학을 전공했고, 고등학교에서 수학과 물리를 가르치기도 했다. 기술의 가능성과 알고리즘에 대한 이해가 높은 ‘이과 출신 교황님’의 인공지능(AI)에 대한 생각은 단호하다. “단순한 규제만으로는 충분하지 않다”며 “AI는 무장해제돼야 한다”고 강하게 경고했다.

▷25일 교황은 바티칸 교황청 시노드 강당에서 즉위 후 첫 회칙(回勅)인 ‘마그니피카 후마니타스(Magnifica Humanitas·고귀한 인류)’를 직접 발표했다. 교황은 회칙, 교서, 권고, 담화, 강론 등 다양한 문헌을 통해 사목적 지침을 전하는데, 그중 회칙은 가장 권위 있는 형태로 신자들은 이를 따라야 할 신앙적 의무가 있다. 245개 항목, 4만 개 단어가 넘는 방대한 분량의 이번 회칙은 AI 시대에 인간의 존엄성을 어떻게 수호할 것인가에 초점을 맞추고 있다. 교황은 회칙에서 “AI를 도덕적으로 중립적이라고 볼 수 없다”며 “AI는 소수의 손에 남아 있어서는 안 된다”고 했다.

▷회칙은 살상 무기 사용 결정을 불투명하거나 자동화된 절차에 위임해서는 안 된다고 했다. 로봇과 AI가 노동 구조 자체를 바꾸면서 일자리가 사라지고 있다는 점도 경계했다. 허위정보와 이미지 조작, 알고리즘이 진리와 판단을 왜곡할 수 있다고 우려했다. 디지털 경제가 보이지 않는 노동 착취에 기반하고 있다며 ‘현대판 노예제’라고도 비판했다. 회칙은 “AI 도입에 신중함, 엄격함, 더딘 속도를 요구하는 것은 진보에 대한 반대가 아닌 인류를 위한 책임감 있는 배려”라고 했다.

▷이번 회칙은 1891년 교황 레오 13세의 사회 회칙 ‘새로운 사태’의 연장선에 있다. 레오 13세가 산업혁명 시기 노동권과 자본주의의 한계를 지적했다면, 레오 14세는 AI 혁명이 인간 존엄과 노동, 정의와 평화에 미칠 영향에 주목했다. 2020년 알고리즘에 윤리를 더한 ‘알고레틱스(Algorethics)’를 주창했던 가톨릭교회는 이제 AI를 성경 속 ‘바벨탑’에 비유하며 강력한 조치가 필요함을 강조하고 있다.

▷혁신과 효과적 가속주의라는 미명 아래 폭주하는 거대 기술 기업들과 효율적인 살상력을 탐내는 강대국들이 교황의 경고에 얼마나 귀를 기울일지는 미지수다. 하지만 이번 회칙 발표장에 크리스토퍼 올라 앤스로픽 공동 창업자도 참석한 것은 기술계 내부에서도 윤리적 브레이크의 필요성에 공감하고 있음을 보여준다. 어쩌면 AI 자체를 통제하는 것보다는, 기술로 모든 것을 해결할 수 있다고 믿는 인간의 오만함을 무장해제하는 것이 더 어렵고 시급한 일일지도 모른다.