과학기술 연구데이터를 위한 안전한 양자 암호 통신

기고 | 이원혁 센터장(KISTI 양자통신연구센터)

양자 컴퓨터와 암호 위기

양자 컴퓨터가 당장 우리의 비밀번호를 무너뜨리는 괴물은 아니다. 하지만 충분히 좋은 성능의 양자 컴퓨터가 등장하면, 오늘날 인터넷 보안의 핵심인 공개키 암호(RSA·ECC)의 안전성을 보장할 수 없게 된다는 사실은 이론적으로 확립되어 있다. 널리 알려진 양자 알고리즘인 쇼어(Shor) 알고리즘은 공개키 암호의 근원이 되는 소인수분해와 이산로그 같은 ‘어려운 수학 문제’ 를 빠르게 풀 수 있으며, 이는 광범위한 인터넷 인프라에 직접적인 영향을 준다. 또한, 상대적으로 안전한 대칭키(Advanced Encryption Standard, AES)와 해시 함수조차 그로버(Grover) 알고리즘에 의해 유효 보안 강도가 낮아질 수 있어 AES는 키 길이 증설이, 해시는 출력 길이 상향이 요구될 것이다. 더구나 유용한 양자 컴퓨터의 개발을 기다리며 ‘지금 수확하고, 나중에 해독(Harvest Now, Decrypt Later)’하는 공격 전략은 외교, 안보, 의료 및 지적 재산처럼 장기간 보존해야 하는 중요한 데이터에 특히 위협이 된다.

대응 전략: 두 가지 길

이러한 환경에서의 대응은 크게 두 갈래다. 첫째는 포스트-양자암호(Post-Quantum Cryptography, PQC)로 프로토콜과 시스템을 전환하는 일이다. PQC는 양자 컴퓨터를 활용해도 효율적으로 풀기 어려운 수학적 문제를 기반으로 설계되며, 양자 시스템이 아닌 현재의 네트워크에서 그대로 동작하는 소프트웨어 암호다. 이는 쇼어 알고리즘의 구현이 기존 공개키 체계를 무너뜨려도 서명과 키 교환을 안전하게 유지하기 위함 이다. PQC에 대한 연구는 후보 문제가 양자 컴퓨터로 효율적으로 풀기 어려움에 대한 강한 수학적 증거의 탐색, 최신의 고전·양자 기반 공격에 대비한 보안 여유의 평가, 이에 따른 안전한 매개변수 선택과 구현 등 실제 환경에서 안전하게 쓰이게 하는 전 과정을 포괄한다. 둘째는 수학적 가정이 아니라 물리 법칙 자체로 안전성을 보장하는 양자 키 분배(Quantum Key Distribution, QKD)를 병행하는 것이다. QKD는 양자 상태의 기본 성질 중 하나인 복제 불가능성(No-Cloning Theorem)과 관측 시 교란되는 특성을 이용해 안전성을 보장해 통신 당사자만 공유하는 비밀키를 만들어낸다. 그 과정 중 누군가가 중간에서 몰래 엿보면 필연적으로 오류가 증가해 도청 시도가 드러난다. 물론 현실 세계의 QKD는 초기 인증(상대 신원 보장을 위한 부트스트랩), 전송 간 광섬유에서의 광 손실 등으로 인한 장거리 전송 한계, 취약점이 될 수 있는 장비의 부채널의 보호, 그리고 경로와 키 관리 같은 공학적 과제를 동반한다. 이러한 배경에서, 현장에서의 구현을 위한 계층형 QKD 네트워크 구조를 설명하고 KISTI 양자통신연구센터에서 수행 중인 연구 및 국내 적용 사례를 간략히 소개한다.

계층형 양자 암호 통신망 표준 구조

양자 암호 통신 네트워크의 구조와 요구사항 등은 ITU-T, ETSI, TTA 등의 국내외 표준화를 통해 정의되고 있다. 특히 ITU-T 표준화 단체에서는 양자 계층, 키 관리 계층, 서비스 계층으로 구성된 계층형 양자 암호 통신망을 정의한다. 계층형으로 나누는 이유는 역할을 분리해 상호운용성을 높이고, 운영· 확장·보안 평가를 체계화하기 위함이다.

양자 계층에서는 양자 채널로 연결된 한 쌍의 QKD 모듈 간 임의의 QKD 프로토콜을 통해 대칭 양자 키 스트림을 공유한다. 이후 QKD 모듈은 각 모듈의 디지털 인터페이스로 연결된 KM(Key Manager)에게 양자 키 스트림을 전달한다. KM은 해당 양자 키 스트림을 일정한 크기로 나누어 각 KM이 보유한 양자 키 저장소에 저장한다. 하나의 KM과 해당 KM에 연결된 하나 이상의 QKD 모듈들을 ‘QKD 노드’라고 정의한다. 양자 계층은 QKD 모듈과 모듈 간 연결의 집합으로, 키 관리 계층은 KM들과 KM 간 연결의 집합으로 정의된다. QKD 네트워크(QKDN)는 이 두 계층(키 관리 계층+양자 계층)의 조합을 의미하며, 중앙집중형 SDN 기반 QKDN 컨트롤러를 통해 관리된다. 컨트롤러는 양자 암호 통신망 구성요소 관리, 운영 관리, 네트워크 토폴로지 관리, 양자 키 전달 제어 등의 기능을 수행한다. 마지막으로 사용자 네트워크는 양자 암호 키를 데이터 암호화에 사용하는 애플리케이션으로 구성된 서비스 계층을 나타낸다.

양자 키 릴레이

QKD 프로토콜에서는 광섬유에서의 손실 등으로 인한 거리 제한이 존재하므로 QKD 모듈 간의 장거리 직접 연결이 어렵다. 따라서 물리적으로 먼 거리의 QKD 노드 간에 양자 키를 공유하기 위해서는 양자 키 릴레이가 필요하다. 양자 키 릴레이는 키 관리 계층의 KM 간에서 발생하며, 릴레이 경로는 QKDN 컨트롤러를 통해 계산된다. 구체적으로, 컨트롤러가 계산한 경로상의 인접한 두 QKD 노드는 해당 노드들이 이미 공유하고 있는 양자 키를 이용해 데이터 암호화에 사용할 키를 암호화한 뒤, 경로상 다음 KM에게 전달하는 과정을 반복해 목적지 KM에 안전하게 전달한다. 이때 데이터 암호화 키와 양자 키 간의 XOR 기반 일회용 암호(One Time Password, OTP)를 활용한다. 특히 현 기술 수준에서는 QKD 모듈의 비밀키 생성률 (secret key rate)이 제한적이므로 키 관리 계층의 양자 키 자원도 제한된다. 이러한 환경에서는 경로 선택, 키 배분 그리고 우선 순위 정책 등을 고려한 양자 키 자원 효율적 릴레이가 중요하며, 자원 최적화 관점의 다양한 양자 키 릴레이 기술이 연구·개발 되고 있다.

국가연구망 양자 암호 적용을 위한 요소 기술

국가연구망 네트워크 적용을 위해 KISTI에서는 국가연구망 노드 요소를 표준에서 정의한 계층형 양자 암호 구조에 매핑하고, 국내외 표준에서 정의된 각 계층 요소 간 인터페이스 규격을 준용한 양자 암호 통신망 인터페이스를 개발·적용 중이다. 산업계에서 개발 중인 다양한 QKD 기술에 대해 국가연구망 액세스·코어 사용자의 트래픽 특성에 맞는 맞춤형 QKD 프로토콜을 발굴해 최적화된 양자 암호 기술을 적용한다.

또한, 국가연구망급 대규모 QKD 네트워크 구축을 위해서는 확장성 있는 양자 키 릴레이 알고리즘의 적용이 필수적이므로, KISTI는 강화학습 기반 양자 키 릴레이, 그리디 기반 양자 키 릴레이 등 낮은 계산복잡도이면서도 수학적 최적화 알고리즘과 거의 유사한 자원 소모 성능을 보이는 기술을 연구·개발하고 있다. 나아가 현실적으로 QKD 적용이 어려운 구간에는 PQC를 적용한 데이터 암호화 기술을 개발해 QKD–PQC 하이브리드 암호화 시스템을 구축했다.

국가 과학기술 연구데이터를 위한 양자 암호 통신 인프라 구축

KISTI는 이러한 요소기술을 연구개발(R&D)을 통해 자체적으로 개발, 국가연구망에 적용했고, 국가 과학기술 연구데이터에 양자 암호 통신 인프라를 구축했다. 특히 높은 수준의 데이터 통신 보안을 요구하는 거대과학 연구 집단(바이오, 천문· 우주)을 발굴해 주요 기관 간 양자 암호 통신망을 구축했다. 

예를 들어 생명·유전체 분야에서는 약 80km 및 60km 구간으로 연결된 국가생명연구자원정보센터(KOBIC)와 보건의료연구자원정보센터(CODA)에 QKD 시스템을 구축, 생명·유전체 데이터의 양자 보안 통신을 지원하고 있다. 또한, 기상데이터 및 위성데이터를 다루는 한국항공우주연구원과 공군기상단 등 기상·천문우주 연구 집단에도 양자 암호 서비스를 제공 중이다. 아울러 양자 통신·양자 컴퓨팅 연구 결과의 실험적 검증을 위해 국가보안기술연구소(NSR)와 한국표준과학연구원(KRISS)을 연결하는 양자 통신 테스트베드를 구축, 국가 양자 인터넷 기술 개발 가속화에 기여하고 있다.

더 안전한 양자 통신을 향해

오늘날 양자 통신 연구는 각 분야·요소에서 현장 적용을 목표로 빠르게 발전하고 있다. 수학에 기반한 PQC와 물리 법칙에 기반한 QKD를 함께 쓰는 하이브리드 전략이 자리를 잡아가고, 검출기 취약점을 줄이고 장치에 대한 가정을 최소화하는 현실적 보안 모델이 활발히 연구되고 있다. 또한, 더 멀리, 더 안정적으로 키를 나누기 위해 양자 메모리·양자 리피터 등장거리 전송을 위한 기술이 개발되고, 레이저·변조기·검출기 같은 구성요소를 칩 위에 통합해 장비를 작고 저렴하게 만들기 위한 집적화 노력도 이어지고 있다.

KISTI 양자통신연구센터에서도 QKD 인프라 구축과 병행해 양자 통신의 보안 역량을 넓히는 다양한 연구도 수행하고 있다. 먼저 양자직접통신(Quantum Secure Direct Communication, QSDC)은 키를 먼저 만든 뒤 데이터를 암호화하는 방식이 아니라, 메시지를 양자 상태로 직접 안전하게 전송하는 방법으로, QKD에서와 유사하게 도청이 있으면 양자 상태가 교란되어 즉시 탐지되는 원리에 기반한다. 우리는 오류정정부호를 활용해 양자 상태를 손실·잡음 환경 하에 더 안정적으로, 더 먼 거리로 전송할 수 있는 방법을 제안했다. 또한, 복호화 없이 암호화된 상태 그대로 연산을 수행할 수 있는 양자동형암호에 대한 연구는 기존 고전 동형암호에 양자 암호의 특성까지 탑재한 동형 암호의 양자 영역으로의 확장을 제공하며, Bell 정리에 대한 양자 이론의 기초 이론 연구는 장치 무관(Device-independent) 보안의 토대를 강화한다. 이러한 다양한 연구를 통해 양자 통신 분야의 지평을 넓히고, 실제 현장에서 쓰일 탄탄한 기반·요소 기술을 체계적으로 개발하고 있다.