[사설]초강력 ‘AI 해커’ 등장… 정부도 기업도 대비 서둘러야

동아일보 DB

스스로 사이버 공격을 설계하고 실행에 옮기는 인공지능(AI) 모델이 등장해 전 세계를 긴장시키고 있다. 미국 앤스로픽이 개발한 ‘클로드 미토스’로, 현재까지 개발된 가장 강력한 AI 모델로 꼽힌다고 한다. 이 모델은 애초에 주요 시스템의 보안 취약점을 찾아 이를 개선하는 ‘화이트 해커’로 개발한 것이다. 하지만 거꾸로 전쟁이나 범죄에 악용될 경우 대형 재난에 버금가는 피해가 발생할 것이란 우려가 나온다.

미토스는 외부 해커의 침투 경로를 예상해 직접 테스트까지 수행한 뒤 시스템 내 취약한 부분을 보고하는 에이전트형 모델이다. 성능이 뛰어나 운영체제(OS)와 웹브라우저 등에서 보안 취약점을 수천 건이나 찾아냈다. 그중에는 수십 년간 아무도 찾지 못했던 소프트웨어 결함도 포함돼 있었다. 그런데 이 과정에서 시스템 전체를 통제하는 관리자 권한을 습득하려 내부망을 뒤진다든지, 자신의 침투 흔적을 지우는 예기치 못한 행동까지 보였다고 한다.

강력한 ‘AI 해커’가 테러리스트와 같은 극단주의자 손에 들어가는 장면은 상상하기조차 두렵다. 우리만 해도 북한이 미토스로 사이버 공격을 시도하면 국가 안보에 치명상을 입을 수 있다. 자율형 모델이어서 사람의 통제를 완전히 벗어날 가능성도 제기된다. 해킹 범죄자가 적발돼도 AI는 사이버 공격을 멈추지 않는 상황도 배제할 수 없다고 한다.

비슷한 자율형 ‘AI 해커’가 앞으로 계속 나올 것이라는 점도 우려스럽다. 앤스로픽은 위험 요소가 크다고 판단해 일단 미토스의 대중 공개를 보류했지만, 그렇다고 사업화 시기를 무기한 연기할지는 알 수 없다. 오픈AI와 구글 등 경쟁사들도 향후 6∼18개월 사이에 유사한 성능의 모델을 내놓을 것으로 전문가들은 예상한다.

미토스 공개 직후 미국, 영국, 캐나다 등이 국가 보안 시스템 점검에 나서고 이 나라들의 중앙은행과 주요 금융사들도 대비책 마련에 착수했다. 우리도 국가 차원의 AI 보안 역량 확보에 속도를 내 국방, 전력, 금융, 통신 등 핵심 기간망을 보호할 두꺼운 장벽을 쌓아야 한다. 또 범죄 세력들이 이런 사이버 무기를 손에 넣을 수 없도록 법체계도 서둘러 정비할 필요가 있다. 자칫 한눈을 팔다가는 우리 정부와 기업이 AI 공격의 가장 손쉬운 먹잇감이 될지 모른다.