신경망 기반 초과 잡음 추정으로 CV‑QKD 한계 돌파

초록

본 논문은 연속변수 양자키분배(CV‑QKD)에서 초과 잡음 파라미터를 추정하기 위해 신경망을 활용하고, 그 추정값에 대한 최악‑사례 신뢰구간을 델타‑방법으로 엄격히 도출한다. 제한된 표본 크기에서도 ε_PE ≤ 10⁻⁶ 수준의 실패 확률을 보장하며, 전통적인 최대우도법(MLE)보다 훨씬 좁은 신뢰구간을 제공해 비밀키율과 전송 거리를 크게 향상시킨다.

상세 분석

이 연구는 CV‑QKD 프로토콜의 핵심 파라미터인 전송 효율 T와 초과 잡음 ξ의 정확한 추정이 비밀키율에 미치는 영향을 정량화한다. 기존에는 표본 수가 제한된 상황에서 MLE를 이용해 보수적인 신뢰구간을 설정했으며, 이는 ε_PE 라는 파라미터 추정 실패 확률을 기반으로 composable security를 보장했다. 그러나 MLE는 특히 장거리 전송에서 잡음 추정이 과소평가될 위험이 있어 키율을 급격히 감소시킨다.

논문은 이러한 한계를 극복하기 위해, 입력‑출력 쌍 (x_i, y_i) 를 학습 데이터로 사용해 초과 잡음을 예측하는 심층 신경망을 설계한다. 핵심은 신경망 파라미터 θ̂ 가 최적 파라미터 θ*에 수렴한다는 가정 하에, 1차 테일러 전개와 델타‑방법을 적용해 예측 오차 ε₀ 를 정규분포 N(0,σ²_ε) 로 모델링하고, 이를 통해 추정값 ˆξ 의 분산을 명시적으로 계산한다. 이렇게 얻은 분산을 이용해 z_{ε_PE/2} 배만큼 확장한 상한 ξ_max 를 정의함으로써, “실제 초과 잡음이 ξ_max 이하일 확률 ≥ 1‑ε_PE/2” 를 보장한다.

이 과정에서 두 가지 중요한 보안 요소가 충족된다. 첫째, 신경망 기반 추정이 composable security 프레임워크와 호환되도록 ε_PE 를 전체 보안 파라미터 ε = ε_PE + ε_cor + ε_sec 에 명시적으로 포함한다. 둘째, 신경망의 학습 오류와 측정 잡음이 모두 포함된 총 오차 항을 보수적으로 다루어, 최악‑사례 신뢰구간이 실제 채널 파라미터보다 절대적으로 더 낙관적이지 않도록 설계한다.

실험적으로는 동일한 데이터 셋에 대해 MLE와 신경망을 비교했으며, 신경망은 평균적으로 ξ_max 를 30‑40 % 정도 낮게 추정했다. 결과적으로 비밀키율 공식 k_ε = n p_EC N(βI(x:y) – χ_{ε_PE}(y:E) – Δ(n)) 에서 χ_{ε_PE} 가 감소해, 전송 거리 30 km 이상에서 키 생성이 가능해졌다. 또한, 학습 및 추정 단계의 복잡도는 현대 GPU 환경에서 실시간 처리 수준에 머물러, 실용적인 QKD 시스템에 바로 적용할 수 있음을 보여준다.

이 논문은 신경망이 단순히 경험적 모델링을 넘어, 엄격한 통계적 보증과 composable security를 만족하는 파라미터 추정 도구로 활용될 수 있음을 증명한다. 향후 연구에서는 다중 파라미터(전송 효율, 위조 공격 탐지 등) 동시 추정, 비선형 채널 모델링, 그리고 적응형 학습을 통한 실시간 파라미터 업데이트가 기대된다.