[도산아카데미] 김승주 고려대 교수 “AI 해킹은 AI로 막아야…망분리 정책 바꿔야”

김승주 고려대 정보보호대학원 교수는 7일 서울 마곡동 시스원 본사에서 열린 제345회 스마트포럼에서 'AI 해킹 대중화 시대의 국가 보안정책 변화 방향'을 주제로 강연했다. 인공지능(AI)을 활용한 사이버 공격이 빠르게 고도화하면서 방어 체계도 AI 중심으로 전환해야 한다는 주장이 나왔다. 획일적인 망분리 정책을 개선하고 AI 기반 보안 대응 체계를 강화해야 한다는 지적이다. 김승주 고려대학교 정보보호대학원 교수는 7일 서울 마곡동 시스원 본사에서 열린 제345회 스마트포럼에서 'AI 해킹 대중화 시대의 국가 보안정책 변화 방향'을 주제로 강연했다. 그는 “AI 해킹의 대중화는 이미 현실이 됐다”며 “AI 해킹은 AI로 막는 '디펜스 앳 AI 스피드(Defense at AI Speed)'가 필요하다”고 말했다. AI의 취약점 탐지와 공격 능력이 빠르게 발전하고 있다는 게 김 교수의 진단이다. 앤트로픽은 지난 4월 AI를 활용해 주요 운영체제와 웹브라우저 등에서 수천건의 제로데이 취약점을 찾아냈다고 발표했다. 27년간 발견되지 않았던 오픈BSD(OpenBSD) 취약점도 포함됐다. 김 교수는 자율형 침투테스트 시스템 'XBOW'와 구글의 AI 보안 에이전트 '빅 슬립(Big Sleep)' 사례도 소개했다. 대규모언어모델(LLM)이 소스코드의 주석과 변수명 등을 분석하면서 취약점 탐지 능력이 높아지고 있다고 설명했다. 국내 보안정책의 첫 번째 과제로는 획일적인 망분리 정책 개선을 꼽았다. 업무망과 인터넷망을 물리적으로 분리하는 방식에서 벗어나 정보 중요도에 따라 보안 수준을 차등 적용해야 한다는 주장이다. 대안으로 국가망보안체계(N2SF)와 제로 트러스트를 결합하는 방식을 제시했다. N2SF는 업무정보를 기밀(C)·민감(S)·공개(O) 등급으로 분류해 보안 통제를 차등 적용하는 체계다. 김승주 고려대 정보보호대학원 교수는 7일 서울 마곡동 시스원 본사에서 열린 제345회 스마트포럼에서 'AI 해킹 대중화 시대의 국가 보안정책 변화 방향'을 주제로 강연했다. 소버린 AI 만능주의도 경계해야 한다고 강조했다. 미국 국방고등연구계획국(DARPA)의 'AI 사이버 챌린지(AIxCC)' 등을 사례로 들며 AI 보안 성능은 가장 강력한 LLM 하나보다 LLM과 퍼저, 정적 분석기 등 기존 보안 도구를 얼마나 효과적으로 결합하는지가 중요하다고 설명했다. 국가안보 영역에서는 국산 소버린 AI 활용이 필요하지만 일반 산업에서도 국산...