국내 연구진이 양자컴퓨터 시대의 새로운 암호체계, ‘양자내성암호’를 공략할 수 있는 세계최고 성능 수준의 양자 알고리즘을 개발했다. 양자컴퓨터뿐 아니라, 수학, 암호학 등 관련 산업 분야의 전환점이 될 전망이다.

한국전자통신연구원(ETRI)은 KIST·서울대·한양대·KIAS·영국 임페리얼 대학 등 국내·외 연구진과 함께 양자내성암호의 주요 기반문제 중 하나인 선형잡음문제를 효과적으로 공략할 수 있는 세계 최고 수준의 양자 알고리즘을 개발했다고 밝혔다. 본 성과는 양자정보과학기술 전문 학술지인 퀀텀 사이언스&테크놀로지에 게재되었다.

양자컴퓨팅 연구 초기, 양자 소인수 분해 알고리즘의 등장으로 공개키 암호시스템(RSA)과 같은 기존 암호체계는 양자컴퓨터가 실용화 될 경우 보안성 유지가 어려울 것으로 전망되었다.

이에, 양자컴퓨터를 이용한 해킹에서도 안전할 것으로 기대되는 새로운 암호체계, 소위‘양자내성암호(PQC)’암호체계가 등장했다. 양자내성암호는 양자컴퓨터조차도 해결하기 어려운 수학적 난제를 활용한 차세대 암호체계다. 이를 풀기 위해선 문제의 규모 대비 지수함수적으로 증가하는 큐비트(Qubit) 자원이 필요하다. 이로써 실제로는 양자컴퓨터조차도 공략 불가능한 것으로 여겨왔다.

하지만 연구진은 세계최초로‘분할-정복(divide-and-conquer) 전략’을 활용, 비교적 소규모 수준의 양자컴퓨터로도 양자내성암호를 공략할 수 있는 양자 알고리즘을 개발했다.

분할-정복 전략은 전체 구조를 하부 구조들로 작게 나누고 개별 공략하는 방법이다. 적정한 수준의 양자 연산능력만으로도‘지수함수적 양자이득’이 가능함을 증명한 것이다.

연구진은 본 기술 공개로 양자 내성이 무효화되는 조건을 보다 구체적으로 특정할 수 있게 되었다. 이에 따라 양자기술을 활용하는 기업, 연구기관, 공공기관의 차세대 암호 연구시 활용영역을 명확하게 할 수 있을 것으로 기대했다.

ETRI 박성수 양자기술연구단장은 “그동안 불가능하다고만 생각되던 양자내성암호 양자공략이 원리적으로 가능하다는 점에서 해당 연구결과는 그 의미가 크다. 하지만, 양자내성암호를 실제 효과적으로 공략하기 위해서는 양자컴퓨터의 연산능력을 더 확보해야 한다.”고 말했다.

한편 이번 공동 교신저자인 영국 임페리얼대 김명수 교수도 "잡음을 동반한 선형문제를 양자컴퓨터를 쓰면 고전컴퓨터에 비해 빨리 풀 수 있다는 점을 증명했다. 특히, 분할-정복 전략을 양자알고리즘에 사용한 첫 사례이다. 이에, 새로운 암호체계의 신뢰도계산에 직접적으로 연관되어 좋은 파급효과가 있을 것으로 기대한다.“고 밝혔다.

ETRI는 이번 연구성과가 양자컴퓨터가 양자내성을 완전히 정복했다는 뜻은 아니라고 밝히며 양자내성암호 공략 및 수호 관점에서 지속적인 연구가 더 필요하다고 말했다.

연구진은 향후, 양자샘플을 생성‧준비하는 단계부터 주요 알고리즘의 동작에 이르기까지 문제해결 전체 과정의 계산 자원량을 결함허용 양자컴퓨팅 관점에서 최적화하는 연구를 추가 수행할 계획이다. 이를 통해, 보다 현실적 측면에서 양자내성암호 양자공략 가능성을 검증할 계획이다.

본 연구는 과학기술정보통신부의 양자컴퓨팅 기술개발 사업과 정보통신기획평가원 양자암호통신 집적화 및 전송기술 고도화 사업 등의 지원을 통해 개발되었다.

한편, 이번 논문의 공동 제1저자는 KIST 송우영 박사, 고등과학원 임영롱 박사, 서울대 정갑균 박사이고 참여저자로는 서울대 지윤성 박사, 한양대 이진형 교수, 고등과학원 김재완 교수다. 아울러 공동 교신저자로는 영국 임페리얼대 김명식 교수와 ETRI 방정호 박사이다.