누구나 내려받는 '침투테스트 AI'…악용 땐 공격무기 돌변

중국어권 해킹그룹 UAT-10147이 C2 서버에 설치한 오픈소스 '펜테스트GPT' 실행 화면. 앤트로픽 '클로드 오퍼스' 계열 모델을 연결한 뒤 웹서버를 스캔·공격하고, 침투한 시스템에서 계정·네트워크·운용체계 정보를 수집한 과정이 담겼다. (출처=시스코 탈로스) 최근 국내 금융권 공격에 악용된 것으로 알려진 '아르텍스(ARTEX)'뿐 아니라 다양한 침투테스트 인공지능(AI)이 누구나 접할 수 있는 오픈소스로 공개된 것으로 나타났다. 초급자라도 소스코드를 수정하면 실제 공격에 활용할 수 있어 보안 위협이 커졌다는 평가다. AI 기반 공격을 전제로 한 취약점 진단이 시급하다. 6일 업계에 따르면 세계 최대 소프트웨어 개발 플랫폼 '깃허브'에는 지난달 바이두 보안대응센터(BSRC) '에이전트+' 공방능력 대회에서 아르텍스와 경쟁한 '포전(Pozhen) 에이전트', 'BLHX'도 오픈소스로 공개돼 있는 것으로 나타났다. 이외에도 취약점 탐색과 공격 검증을 자동화하는 '스트릭스(Strix)', 여러 보안도구를 AI가 조합해 침투테스트를 수행하는 '펜타지(PentAGI)', 거대언어모델(LLM) 기반 침투테스트를 지원하는 '펜테스트GPT' 등도 공개돼 개발자의 주목을 받고 있다. 침투테스트 AI의 본래 목적은 방어다. 사람이 일일이 시스템을 점검하는 대신 AI가 취약점을 찾고 공격 가능성을 시험해 보안 수준을 높이는 데 활용된다. 문제는 오픈소스로 공개된 이후다. 전체 소스코드를 내려받아 악의적으로 수정하는 과정에서 개발자가 넣어둔 안전장치를 제거하거나 기능을 바꿀 수 있다. 과거에는 상당한 전문지식이 필요했던 침투 과정 일부를 AI가 대신하면서 해킹의 진입장벽 자체가 낮아졌다. 실제 오픈소스가 악용된 사례도 보고되고 있다. 시스코 사이버위협 인텔리전스 조직(탈로스)은 지난 8월 중국어권 해킹그룹 'UAT-10147'이 팬테스트GPT를 비롯한 복수의 오픈소스 공격·침투 도구를 실제 공격에 활용한 사례를 밝혔다. 공격자는 웹서버를 대상으로 취약점을 찾고 공격을 검증하는 과정에 AI 도구를 활용했다. AI 침투도구의 오픈소스 공개 자체를 막기는 어렵다. 보안 연구자들도 같은 도구를 활용해 취약점을 찾고 방어 기술을 개선하기 때문이다. 전문가들은 최근 보고되는 AI 기반 공격 수법 상당수가 기존 취약점 탐색과 자동화 도구 활용 등 중·하급 수준의 해킹 기술을 조합한 형태라고 평가한다. 아르텍스 AI를 이용한 국내 금융권 공...