구글 최신 AI도 5분만에 해킹…"AI 창과 방패 전쟁 치열해져"

“제미나이3도 5분 만에 뚫리는 세상입니다. AI가 생산성을 높이지만 동시에 해커들에게 새로운 공격 지점을 열어주고 있어요.”

1일 서울 삼성동 코엑스에서 열린 ‘제1회 AI 해킹방어대회(ACDC)’ 현장에서 한 보안 전문가는 이렇게 말했다. 제미나이3가 모의 해킹으로 뚫린 건 그의 말대로 사실이다. 국내 인공지능(AI) 보안 기업 에임인텔리전스가 구글의 최신 AI 모델 ‘제미나이3 프로’를 대상으로 탈옥(안전장치 우회) 공격을 수행한 결과 단 5분 만에 모델의 필터링 기능을 완전히 무력화하는 데 성공한 것으로 알려졌다. 구글이 제미나이를 출시한 지 불과 2주 만에 드러난 취약점이다.

국내 최대 가상자산거래소 업비트 해킹, 국내 최대 온라인커머스 기업 쿠팡 해킹이 연달아 일어난 가운데 과학기술정보통신부가 AI 해킹방어대회를 개최했다. 미국 국방고등연구계획국(DARPA)에서 매년 개최하는 ‘AIxCC(AIx사이버 챌린지)’의 한국판 행사다. 대회에는 공공기관, 대기업, 세계 해킹대회 수상 보안기업, 정보보호 특화 대학 등 총 187개 팀에서 748명이 참가했다.

이날 행사에서 전문가들은 AI 시대 해킹 등 보안 사고의 파급력이 예전보다 훨씬 커질 수 있다고 경고했다. AI가 산업 전반에서 빠르게 확산하면서 해커가 노릴 수 있는 공격 포인트가 기하급수적으로 늘어난다는 것이다. 올해 DARPA 주관 AIxCC에서 우승한 윤인수 KAIST 전기 및 전자공학부 교수는 “AI는 인간이 상상할 수 있는 거의 모든 공격 패턴을 학습할 수 있다”며 “머지않아 인간 해커를 능가하는 AI 해커가 등장할 가능성이 크다”고 말했다. 박찬암 스틸리언 대표는 “AI는 해커 입장에서 시간을 극적으로 줄여주는 기술”이라며 “예전에는 우회 코드나 공격 코드를 사람 손으로 하나하나 만들어야 했다면 이제는 AI가 그 과정을 자동으로 한다”고 설명했다.

배경훈 부총리 겸 과기정통부 장관은 “AI 강국을 외치며 해킹 대응을 소홀히 하면 ‘사상누각’”이라며 “화이트해커 양성 생태계 조성을 정부가 지원하겠다”고 밝혔다.

이영애 기자 0ae@hankyung.com