'AI 석학' 등 세계 연구진 22인, 초인적 AI 우려 '지능 폭발' 대비 촉구

ⓒ게티이미지뱅크 세계 주요 석학들이 인공지능(AI) 발전 가속화에 따른 '지능 폭발(intelligence explosion)'을 대비해야 한다고 제언했다. 28일(현지시간) 영국 케임브리지대 'AI 과학·정책 프로그램(CASP)'에 따르면 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 '세계 AI 4대 석학' 중 2명을 포함해 AI 연구자 22명은 참여한 'AI 연구개발(R&D) 자동화가 지능 폭발을 촉발한다면?'이라는 제목의 논문을 공개했다. AI가 AI 연구개발(R&D)을 자동화하는 과정에서 기술 발전 속도가 급격히 빨라지는 '지능 폭발'이 발생할 가능성에 대비해야 한다는 게 골자다. 논문에는 힌턴·벤지오 교수 외에 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 마이크로소프트(MS) 최고과학책임자, 던 송 UC버클리 전기공학·컴퓨터과학 교수(메타 AI 연구 담당 부사장) 등이 참여했다. 이들 연구진이 정의한 지능 폭발은 AI가 AI 발전 자체를 가속하면서 기존에 수 년이 걸릴 기술 진보가 수 개월 또는 그보다 짧은 기간에 이뤄지는 현상이다. 실제 지능 폭발이 일어날지는 여전히 상당한 불확실성이 있지만 가능성을 대비해야 한다는 게 공통된 의견이다. 특히 1년 전 대비 기업 내부에서 AI가 상당한 규모의 코드를 작성하고 있으며 향후 수년 안에 AI R&D 업무 대부분, 나아가 전체 과정까지 자동화할 가능성이 있다고 분석했다. 핵심은 일종의 자기증폭 구조다. AI가 새로운 AI 모델과 알고리즘 개발을 돕고 더 뛰어난 AI가 다시 연구 속도를 높이는 과정이 반복될 수 있다는 것이다. 연구진은 AI가 전문가 수준 AI R&D 능력에 도달할 경우 단일 개발기업이 수백만명의 최상급 인간 연구자에 상응하는 연구역량을 운용하는 시나리오도 제시했다. AI R&D 자동화가 지능 폭발을 일으킬 가장 유력한 경로라는 설명이다. 지능 폭발이 현실화하면 신약 개발과 과학 연구, 기술혁신 등 AI의 이점을 앞당길 수 있지만 위험도 함께 커질 수 있다. AI 능력 향상이 사회가 대응할 수 있는 속도를 크게 앞서거나 인간이 초인적 AI 시스템에 대한 통제력을 잃을 가능성이 있다는 것이다. 국가·기업·정부기관 사이 기존 견제와 균형이 훼손되고 생물학·사이버 분야의 위험이 방어체계보다 빠르게 고도화될 가능성도 제기했다. 연구진은 이에 각국 정부가 AI...