IT 분야에 관심을 두고 있다면, 슈퍼컴퓨터보다 연산 속도가 30조 배 빠르다는 양자컴퓨터에 대해 들어본 적 있으실 텐데요. 양자컴퓨터는 빠른 연산 능력 덕분에 그동안 풀기 어려웠던 인류 난제를 풀 것이라는 긍정적 측면이 있어요. 하지만 기존의 암호 체계도 빠르게 풀기 때문에 국가 간, 기업 간 보안에 위협이 될 것이라는 우려도 커지고 있죠.
미국과 유럽의 각국은 양자컴퓨터로부터 보안을 강화하는 양자내성암호 기술을 확보하기 위해 투자를 아끼지 않고 있어요. 한국 정부 역시 2035년까지 국가 암호 체계 전반을 양자내성암호로 전환하는 종합 대책을 수립했죠.
서울대 이석윤 객원교수가 소개하는 양자내성암호 개발 배경과 선진국 및 한국의 양자내성암호 전환 준비 현황을 살펴볼까요?
📑 양자컴퓨팅 위협에 대응한 양자내성암호 전환 실행 대책을 마련할 타임!
우리가 살고 있는 초연결 디지털 사회 환경에서 인터넷 뱅킹과 e 커머스 등을 안전하게 보호하는 공개키 암호시스템이 최근 양자컴퓨팅 기술의 빠른 발전으로 무력화될 것으로 예상됩니다.
인터넷에서 공유하는 대부분의 중요한 데이터는 암호화되어 송수신하는데요. RSA(Rivest-Shamir-Adleman) 암호, 타원곡선 암호(ECDH: Elliptic Curve Diffie-Hellman) 등 공개키 암호를 사용해요. RSA 암호와 타원곡선 암호는 소인수 분해와 이산대수 문제라는 수학적으로 매우 풀기 어려운 문제에 기반을 두고 있어요. 그렇기 때문에 공개키 암호시스템은 현재의 슈퍼컴퓨터로는 해독하기 거의 불가능하다고 합니다.
1994년 미국 벨 연구소의 피터 쇼어(Peter Shor)가 양자컴퓨터를 이용한 소인수 분해 알고리즘 “쇼어 알고리즘(Shor’s Algorithm)”을 발표했어요. 양자컴퓨터가 발명된다면, 소인수 분해나 이산대수 문제에 기반한 공개키 암호는 빠른 시간 내에 깨지기 때문에 인터넷 보안 환경이 더 이상 안전하지 않다는 점이 밝혀진 것이죠.
2000년대부터 IBM, 구글 등 다국적 기업과 정부, 대학들은 양자컴퓨터 기술 개발에 박차를 가했고, 양자알고리즘을 실행할 수 있는 양자컴퓨터 개발이 가시화되고 있어요. 그 결과, 인터넷 보안 기술로 가장 널리 활용되는 RSA 공개키 암호의 안전성이 커다란 위협에 직면하게 되었습니다.
지난 2019년 구글은 슈퍼컴퓨터로 일만 년 걸린 작업을 3분 20초 내에 처리하는 양자 프로세스를 개발했어요. IBM은 2023년에 1,121 큐비트 양자컴퓨터를 개발하였으며, 2033년까지 100,000 큐비트 양자컴퓨터를 처리하는 양자 프로세스를 개발하겠다고 발표했습니다.
이러한 양자컴퓨팅의 위협에 대처하기 위해 양자암호 통신 분야에서 하드웨어 기반의 양자 키 분배(QKD: Quantum Key Distribution)와 소프트웨어 기반의 양자내성암호(PQC: Post Quantum Cryptography)라는 새로운 보안 기술이 연구되었고, 실용화 단계까지 개발되고 있어요.
QKD는 복제 불가능성 원리 등 물리학적 성질을 이용하여 공격자의 연산 능력과 무관한 안전성을 갖고 있다는 특징이 있는데요. 암호키 송수신과 장거리 통신을 위한 ‘중계기’와 메시지 전송을 위한 ‘보안 장비’가 있어야 하며, 사용자 인증 기능이 없어 중간자 공격에 취약하기 때문에 별도의 보완 대책이 필요해요.
이에 반해, PQC는 수학적 복잡성에 기반을 두고 있기 때문에 무조건적 안전성 (Unconditional Security) 성질을 갖지 못해요. 하지만 QKD와 달리 전용 하드웨어 장비가 필요하지 않고, 암호 통신에 필요한 키 교환부터 메시지 암호화, 전자서명 기능까지 제공해요. 또한, QKD에 비해 전송 거리 제약이 없고, 모든 IoT 기기와 통신 네트워크 기기에 적용할 수 있기 때문에 경제성이 상대적으로 높다고 할 수 있어요.
미국 국가안보국(NSA: National Security Agency)과 영국 국가사이버보안센터 (NCSC: National Cyber Security Centre) 홈페이지에서는 국가 보안 시스템이나 정부기관 또는 군사 분야에서 QKD보다 PQC를 권장한다는 점을 게시하고 있어요.
양자컴퓨터가 기존 암호체계를 깰 수 있는 개발 시점에 대해서는 전문가들마다 의견이 엇갈리고 있어요. 하지만 양자컴퓨터의 시대는 올 것이며, 이에 대비가 필요하다는 것이 전문가들의 중론이죠.
캐나다 Global Risk Institute의 “2022 양자컴퓨터 위협 리포터(Quantum Threat Timeline Report)”에 따르면 양자컴퓨터 전문가 대상으로 양자컴퓨터 출현 시기에 대해 조사한 결과, 응답자의 50% 이상이 향후 15년 이내에 RSA-2048을 무력화하는 양자컴퓨터가 출현할 것으로 예상했는데요. 산업계에서는 늦어도 2037년까지 RSA-2048을 해독하는 데 사용되는 양자컴퓨터를 개발할 것으로 전망해요.
양자컴퓨팅 공격에 취약한 공개키 암호를 양자내성암호로 전환하는 보안 대책을 신속하게 수립 시행해야 하는 이유는 데이터 보호 기간을 고려한 선 수집 후 해독 “HNDL(Havest Now Decrypt Later)” 공격에 대처해야 하기 때문이에요.
예를 들어, 외교부의 기밀문서 보호 기간이 20년이고 17년 후 공개키 암호 해독 수준의 양자컴퓨터가 개발된다고 가정하면, 공격자가 현재부터 기밀 데이터를 수집 및 저장한 후 양자컴퓨터 개발 이후 시점부터 유효기간이 3년이나 남은 기밀을 해독하여 확인할 수 있다는 것이죠.
한편, 많은 암호학자가 PQC의 수학적 안전성 이론을 정립하기 위해 노력하고 있는데요. 미국 국립표준기술원(NIST: National Institute of Standards & Technology)에서는 2016년 PQC 표준 알고리즘 공모를 시작하여 2022년에 CRYSTAL-Kyber, CRYSTAL-Dilithum, Falcon, Sphincs+, 4종의 알고리즘을 선정하였고, 2023년에 전자서명 알고리즘을 추가 공모하여 1라운드에서 40종을 선정하는 등 표준화를 진행하고 있어요.
국내에서도 정부 차원에서 한국 양자내성암호 연구단이 2022년 2월 양자내성암호 국가 공모전을 개최하여 공개키 암호/키 설정, 전자서명 분야에서 SMAUG-T, MQ-Sign 등 총 8종 알고리즘을 1라운드에서 선정하였고, 올해 12월에 최종 PQC 알고리즘이 선정될 예정입니다.
선진국들은 아직 표준 암호 알고리즘을 확정하지 않았더라도 PQC 전환 대책을 수립 시행해 나가고 있어요. 미국은 2022년 5월 바이든 대통령이 PQC 전환 국가안보각서(NSM-10)를 발표한 후, 국가안보국(NSA)이 2025년부터 소프트웨어, 펌웨어 분야부터 PQC를 적용하여 2033년까지 서버, 클라우드 등 전 분야까지 완료하는 타임라인 “CNSA (Commercial National Security Algorithm Suite) 2.0”을 공개했습니다.
프랑스 국가사이버보안원(ANSSI)은 2025년까지 공개키 암호와 PQC를 병행하는 하이브리드방식을 적용하고, 2030년 이후부터 PQC 단독으로 사용하는 전환 로드맵을 발표했어요. 캐나다 디지털 기반 복원 포럼(CFDIR: Canadian Forum for Digital Infrastructure Resilience)에서는 2021년 7월 PQC 전환 모범 사례와 가이드라인을 제정한 바 있어요.
이와 같은 PQC 전환 추세에 맞춰 국내에서 국가정보원과 과학기술정보통신부는 행정안전부를 비롯한 관계 부처와 공동으로 2035년까지 국가 암호체계 전반을 양자내성암호로 전환하기 위한 “양자내성암호 마스터플랜”을 발표했어요. 2024년에 마스터플랜 분야별 실행 계획을 마련하여 2030년까지 양자내성암호 체계 전환 제도적 기반을 구축하고, 2035년까지 암호체계 전환 테스트베드, 통합지원센터를 구축 운영하는 등 관련 기술을 개발하고 필요한 정책을 지원한다는 내용을 담고 있어요.
하지만, 마스터플랜이 수립된 이후 아직까지 양자내성암호 전환에 필요한 세부적인 액션플랜이 마련되지 않고, 밑그림만 그려진 상황이에요. 우리가 2035년까지 양자내성암호 전환을 완료하려면 시간이 많이 남아 있는 것 같지만, 전환은 단순히 암호 알고리즘을 변경하는 것이 아닌 국가 암호체계를 전면적으로 수정하는 작업입니다.
그렇기 때문에 조속히 로드맵을 실행할 수 있는 세부적인 액션플랜이 마련되어 정부기관에서 필요한 예산을 준비해야 가능한 일이라 판단됩니다. 특히, 국가 공공기관에 암호 제품이 사용되기 위한 필요조건인 PQC 암호 검증 제도가 언제 시행될 수 있는지 가늠할 수 없는데요. 산업계가 PQC 제품을 기획하고 개발하여 검증을 받을 수 있도록 빠른 시일 내 검증 체계에 대한 정립 방안 마련도 필요해요.
무엇보다도 우리가 간과하지 말아야 할 중요한 점은 대학이나 기업 연구소 등은 양자컴퓨터 개발을 공개할 수 있으나, 미국, 중국, 러시아 등 외국의 통신정보기관이 양자컴퓨터를 언제 개발할지 알 수 없다는 사실입니다. 모든 정보기관은 공개키 암호를 깰 수 있는 양자컴퓨터 개발에 성공하더라도 절대 외부에 공개하지 않고 은밀히 국가 기밀이나 산업 기밀 정보를 해독하는 데 활용할 것입니다.
지난 2014년 에드워드 스노든에 의하여 NSA가 비밀리에 양자컴퓨터 개발을 추진하고 있다는 사실이 폭로되어 워싱턴포스트에 최초로 보도되었죠. NSA는 “부인도 시인도 하지 않는다(NCND: Neither Confirm Nor Deny)”는 정보기관의 원칙에 따라 언론 보도에 대해 부인도 해명도 하지 않았어요. 외국 정보기관의 양자컴퓨팅 위협에 적절히 대비하기 위해서 지금부터라도 PQC 전환에 필요한 실행계획을 수립하여 철저히 준비해야 한다는 점을 잊지 말아야 하겠습니다.