모든 암호 풀리는 'Q데이' 눈앞에…양자 보안전쟁 불 붙었다

‘Q-day’. 양자컴퓨터가 기존 암호체계를 무력화하는 날을 뜻하는 단어로, 점점 현실로 다가오고 있다. 글로벌 기업들이 물리적 큐비트 수 경쟁을 벌이며 양자컴퓨터 개발 속도를 끌어올리면서다. 이대로라면 실생활에 적용 가능한 수준으로 거론되는 ‘100만 큐비트’급 양자컴퓨터가 2030년대 중후반 등장할 수 있다는 예측도 나온다. 양자 시대에 대비한 보안 기술부터 서둘러 구축해야 한다는 목소리가 커지고 있다.

◇점점 현실로 다가오는 양자 위협

양자컴퓨터는 당장 모든 암호체계를 뚫어버릴 것처럼 묘사되지만 아직은 부족하다는 평가가 지배적이다. 글로벌 컴퓨팅 보안 기업 클라우드플레어는 지난해 자사 블로그에서 “현재 양자컴퓨터는 현실 세계 암호를 해독하기에는 빈약하다”고 했다.

요새는 상황이 달라졌다. 보안업계에서는 암호화된 데이터를 수집해 저장해 둔 뒤, 강력한 양자컴퓨터가 등장하면 해독한다는 ‘HNDL(Harvest Now, Decrypt Later)’ 공격 시나리오가 거론되고 있다.

학계에서는 2048비트 길이의 공개키 암호화 방식인 RSA(리베스트-샤미르-애들먼)-2048을 깨기 위해서는 초전도 양자컴퓨터 기준 약 2000만 개의 큐비트가 필요하다는 추정이 일반적이다. 그러나 크레이그 기드니 구글 퀀텀AI 연구원은 지난해 6월 발표한 논문에서 양자 소프트웨어 최적화를 통해 RSA-2048을 깨는 데 필요한 큐비트 수가 100만 개 미만이면 된다고 주장했다.

이 같은 배경에서 주목받는 기술이 수학 기반의 양자내성암호(PQC)와 물리 기반 기술인 양자키분배(QKD)다. PQC가 주목받는 이유는 양자컴퓨터가 RSA 암호체계를 무력화할 수 있기 때문이다. 양자컴퓨터는 큰 수를 빠르게 소인수분해하는 쇼어(Shor) 알고리즘 등을 통해 소인수분해에 기반한 기존 RSA 암호체계를 흔들 수 있다. RSA는 두 개의 거대한 소수를 곱해 만든 수를 다시 분해하는 일이 고전 컴퓨터로는 사실상 불가능하다는 전제에 기반하는데, 쇼어 알고리즘은 양자푸리에변환(QFT) 등을 활용해 이를 무너뜨린다.

PQC는 양자컴퓨터로도 풀기 쉽지 않은 수학적 난제에 기반해 공개키 암호 알고리즘을 새로 설계한다. 기존 보안 체계는 공개키와 개인키 한 쌍으로 작동한다. 공개키는 누구나 접근 가능한 자물쇠, 개인키는 주인만 쥐는 ‘비밀 열쇠’에 비유할 수 있다. 공격자는 보통 개인키를 탈취하거나, 두 키 사이의 알고리즘을 역산해 나중에 해독한다. PQC는 이 알고리즘의 틀을 바꾼다. 예컨대 격자 기반 암호 알고리즘은 고차원 공간에서 잡음이 섞인 식이 주어졌을 때 그 안에 숨겨진 값을 찾아내는 것이 대단히 어렵다.

QKD는 양자 상태의 광자를 활용해 암호키를 주고받는 방식이다. 양자역학 특성상 빛 입자의 상태를 누군가 관측(도청)하면 그 즉시 상태가 변화한다. QKD로 공유한 키는 도중에 도청 시도가 감지되면 바로 알아차릴 수 있고, 해당 키를 폐기한다. QKD는 노이즈에 취약해 전송 과정에서 광 신호가 손실되는 문제가 발생한다. 과학기술정보통신부는 지난 2일 ‘제1차 양자종합계획’을 내놓으면서 2028년까지 양자암호통신망을 전국으로 확산해 실증하고 2030년 ‘위성 QKD’ 기술 자립을 달성하겠다고 밝혔다.

◇한국은 통신사 중심 양자 보안기술 실증

국내외에서도 양자 시대를 대비한 암호 기술 개발 속도가 빨라졌다. 영국의 아킷 퀀텀은 마이크로소프트 애저 등 주요 클라우드 환경과 연동해 양자 보안 서비스를 확대하고 있다. 영국 기업 PQ실드는 PQC 알고리즘을 반도체 칩과 소프트웨어에 직접 적용할 수 있는 모듈형 보안 기술을 공급한다.

국내에서는 통신사를 중심으로 양자 보안 기술 개발이 이뤄지고 있다. KT는 최근 초당 30만 개 암호키를 생성하는 QKD 장비를 자체 개발했다고 밝히며 글로벌 수준의 성능 확보를 강조했다. SK텔레콤은 QKD와 PQC를 결합한 하이브리드 양자암호 장비를 선보였다. LG유플러스는 PQC 기반 공공·기업 보안 실증을 추진하고 있다.

한국은 PQC 표준화 경쟁에서도 존재감을 키우고 있다. 지식재산권 당국에 따르면 PQC 표준화 주체별 특허 출원에서 한국은 165건으로 미국보다 많은 출원량을 기록했다. 2021년 국가보안기술연구소와 국가정보원이 발족한 ‘한국형 양자내성암호 연구단’은 SMAUG-T 등 알고리즘 개발을 통해 국제 양자 보안기술 표준 경쟁에 뛰어들었다.

최영총 기자 youngchoi@hankyung.com