[AI와 디지털전환] AI 공격 시대, 에이전틱 지휘체계로

정상원 한국인공지능·소프트웨어산업협회(KOSA) 초거대AI추진협의회 부회장(이스트소프트 대표) 최근 오픈AI가 공개한 차세대 에이전트 '아스트라(Astra)'의 평가 결과는 보안 업계에 꽤 무거운 질문을 던진다. 아스트라는 알려진 취약점을 설명하거나 공격 코드를 작성하는 수준을 넘어, 여러 취약점을 연결해 실제 공격 경로를 완성하는 단계까지 진입했다. 말하자면 인공지능(AI)이 단순한 보안 분석가를 넘어 '익스플로잇(보안 취약점을 이용한 공격) 아키텍트' 역할까지 수행하기 시작한 것이다. 기존의 사이버 공격은 상당한 전문성과 시간을 요구했다. 하나의 취약점을 발견했다고 공격이 완성되는 것은 아니다. 정보 유출, 임의 메모리 접근, 샌드박스 탈출, 권한 상승 등 서로 다른 취약점과 공격 기법을 연결해야 실제 시스템 장악으로 이어진다. 이 과정에는 숙련된 공격자의 경험과 시행착오가 필요했다. 그런데 아스트라와 같은 AI 에이전트가 이 과정을 스스로 수행하기 시작하면 상황은 크게 달라진다. 목표를 부여받은 AI가 공격 결과를 관찰하고 다음 단계를 판단하며, 여러 취약점을 연결해 익스플로잇 체인을 구성할 수 있기 때문이다. 취약점이 발견된 뒤 실제 공격에 활용되기까지의 시간도 급격히 짧아진다. 익스플로잇 체인이란 둘 이상의 보안 취약점이나 공격 기법을 서로 연결하여 하나의 종합적인 공격을 수행하는 사이버 보안 기법을 의미한다. 이 변화는 방어 체계에도 근본적인 질문을 던진다. 공격 AI가 수분 안에 익스플로잇 체인을 구성할 수 있다면 방어 역시 탐지, 판단, 차단, 격리까지 에이전트가 전사적으로 수행해야 한다. 관제센터의 분석가가 경보를 확인하고 원인을 분석한 뒤 대응 여부를 결정하는 기존 방식만으로는 그 속도를 따라가기 어렵다. 더 큰 문제는 현재 기업 보안 체계가 대부분 이기종 보안 제품의 결합으로 구성돼 있다는 점이다. 엔드포인트, 아이덴티티(계정·신원), 클라우드, 네트워크 보안은 서로 다른 제품과 콘솔로 운영된다. 반면 공격자는 하나의 단말에서 시작해 계정을 탈취하고, 클라우드 권한을 확보한 뒤 중요 시스템으로 이동한다. 공격은 하나의 체인인데, 방어는 여전히 제품 단위로 나뉘어 있는 셈이다. 따라서 앞으로의 보안 경쟁은 개별 제품의 탐지율을 몇 퍼센트 높이는 경쟁에서 벗어나야 한다. 기업의 자산과 계정, 권한 관계를 하나의 어택 그래프로 이해하고, 공격자가 이동할 수 있는 경로를 실시간으로 파악해 선제적으로...