카크의 삼단계 양자 암호 변형과 보안 강화

초록

본 논문은 카크(Kak)의 기존 삼단계 양자 키 분배 프로토콜에 대한 구조적 변형을 제시하고, 중간자 공격(MITM)에 대한 방어 메커니즘을 추가한다. 또한, 유사한 보안 특성을 갖는 새로운 양자 통신 프로토콜을 설계하여 비교 분석한다.

상세 분석

카크의 삼단계 프로토콜은 송신자(Alice)와 수신자(Bob)가 각각 임의의 유니터리 연산 U_A, U_B를 적용하고, 그 역연산을 순차적으로 수행함으로써 키를 공유한다. 이 과정은 양자 상태가 물리적으로 이동하는 동안에도 외부 관찰자가 상태를 측정하기 어렵게 만든다. 그러나 프로토콜 자체에 인증 절차가 결여되어 있어, 악의적인 중간자(Eve)가 동일한 연산을 삽입하거나 변조함으로써 MITM 공격을 수행할 위험이 존재한다. 논문은 이러한 취약점을 보완하기 위해 두 가지 주요 접근을 제안한다. 첫 번째는 각 단계마다 양자 디지털 서명(Quantum Digital Signature, QDS) 혹은 인증된 클래식 해시값을 교환하여 연산의 진위성을 검증하는 방법이다. 구체적으로, Alice는 첫 번째 전송 전에 자신의 연산 U_A에 대한 해시 h(U_A) 를 클래식 채널을 통해 Bob에게 전달하고, Bob은 이를 수신 후 동일한 해시를 계산해 일치 여부를 확인한다. 두 번째는 변형된 연산 순서를 도입하는 것으로, 기존의 U_A → U_B → U_A⁻¹ → U_B⁻¹ 구조를 U_A → U_B → U_B⁻¹ → U_A⁻¹ 으로 바꾸어, 중간에 삽입된 공격자가 양쪽 모두의 연산을 동시에 파악하기 어렵게 만든다. 이 변형은 연산의 교환 순서가 비가역적이라는 점을 이용해, 공격자가 임의의 중간 상태를 재구성하려 할 때 양자 얽힘과 불확정성 원리에 의해 오류가 발생하도록 설계되었다. 추가로 논문은 완전히 새로운 프로토콜을 제시한다. 새로운 프로토콜은 세 단계 대신 네 단계로 구성되며, 각 단계마다 무작위로 선택된 베이스(예: X, Y, Z)와 대응하는 파라미터 θ 를 적용한다. Alice와 Bob은 사전에 공유된 베이스 목록을 사용해 각 단계에서 적용할 파라미터를 동기화하고, 최종 단계에서 양쪽이 동일한 파라미터 집합을 갖는 경우에만 키를 추출한다. 이 과정에서 양쪽은 클래식 채널을 통해 베이스 선택 정보를 교환하지만, 실제 파라미터값은 양자 채널을 통해 암호화된 형태로 전달되므로, 중간자가 베이스 정보를 알더라도 실제 키를 복원할 수 없다. 논문은 시뮬레이션을 통해 변형된 카크 프로토콜과 새로운 프로토콜 모두 MITM 공격에 대한 성공 확률이 기존 대비 10⁻⁶ 이하로 감소함을 입증한다. 또한, 양자 비트 오류율(QBER)과 통신 효율성을 비교 분석하여, 변형된 카크 프로토콜은 기존 대비 약 5 %의 효율 손실만을 보이며, 새로운 프로토콜은 약 12 %의 효율 손실을 보이지만 보안 수준은 현저히 높다. 이러한 결과는 양자 암호 시스템 설계 시 인증 메커니즘과 연산 순서의 비대칭성을 결합하는 것이 실용적인 보안 강화 방안임을 시사한다.