BB84 보안 분석: 확률 모델 검증을 통한 이중탐지 연구

초록

본 논문은 확률 모델 검증 도구 PRISM을 이용해 BB84 양자키 분배 프로토콜의 보안성을 정량적으로 평가한다. 특히 채널 잡음과 공격자의 탐지 능력에 따라 변하는 이중탐지(eavesdropping detection) 특성을 분석하고, 파라미터 변화가 검출 확률에 미치는 영향을 실험적으로 보여준다.

상세 분석

BB84는 양자역학의 불확정성 원리를 이용해 비밀키를 공유하는 최초의 양자키 분배(QKD) 프로토콜로, 이론적으로는 무조건적인 보안을 제공한다는 것이 일반적인 기대이다. 그러나 실제 구현에서는 광자 손실, 디텍터 효율, 채널 잡음 등 물리적 결함이 존재하고, 이러한 결함은 공격자가 정보를 탈취하거나 탐지를 회피할 수 있는 여지를 만든다. 논문은 이러한 현실적인 상황을 모델링하기 위해 확률적 모델 검증 기법을 선택했으며, 특히 PRISM이라는 모델 체커를 활용해 BB84의 동작을 마코프 결정 과정(MDP) 형태로 형식화하였다.

먼저, 프로토콜의 핵심 단계—송신자(Alice)의 랜덤 비트와 베이스 선택, 수신자(Bob)의 랜덤 베이스 선택 및 측정, 그리고 공개 채널을 통한 베이스 비교와 오류율 계산—을 각각 상태와 전이로 정의하였다. 이때 채널 잡음은 전이 확률에 ‘p_noise’ 파라미터를 도입해 구현했으며, 공격자(Eve)의 존재는 두 가지 모델로 구분한다. 첫 번째는 단순한 인터셉트-재전송(intercept‑resend) 공격으로, Eve가 모든 광자를 측정하고 다시 전송하는 경우이며, 두 번째는 부분적인 공격으로 Eve가 일정 비율 ‘p_eve’만큼만 개입한다.

보안 특성은 “Bob이 Alice와 비교한 베이스가 일치할 때, 오류율이 사전에 정의된 임계값 θ를 초과하면 공격을 탐지한다”는 논리식으로 표현되었다. PRISM의 PCTL(Probabilistic Computation Tree Logic) 쿼리를 이용해 “전송된 n개의 광자 중 k개가 일치하고, 오류율이 θ를 초과할 확률”을 계산함으로써, 탐지 확률을 정량화하였다. 실험 결과는 다음과 같다. 채널 잡음 p_noise가 0에 가까울수록, 즉 이상적인 무잡음 채널일 때는 Eve가 개입하더라도 탐지 확률이 급격히 상승한다. 반면 p_noise가 0.1~0.2 수준으로 증가하면, 자연적인 오류와 공격에 의한 오류를 구분하기 어려워 탐지 확률이 현저히 감소한다. 또한, Eve의 공격 강도 p_eve가 0.2 이하일 경우 탐지 확률이 50% 이하로 떨어지며, 0.5 이상이면 거의 확실히 탐지된다.

흥미로운 점은 파라미터 간 상호작용이다. 예를 들어, p_noise=0.05인 상황에서 p_eve=0.3인 경우 탐지 확률은 약 0.78이지만, 동일한 p_eve를 p_noise=0.15에서 적용하면 탐지 확률이 0.42로 감소한다. 이는 실제 QKD 시스템 설계 시 채널 품질을 개선하는 것이 보안 강화에 직접적인 영향을 미친다는 실용적인 시사점을 제공한다. 또한, 모델 검증 과정에서 발견된 미세한 설계 오류—예를 들어, 베이스 공개 단계에서 순서가 뒤바뀌는 경우—는 PRISM이 자동으로 탐지해 수정 가능함을 보여, 전통적인 수동 검증보다 효율적임을 입증한다.

마지막으로, 논문은 모델 검증의 한계도 언급한다. 현재 모델은 단일 광자 전송을 전제로 하며, 다중 광자 펄스나 디코이팅 오류 등 복합적인 물리 현상을 완전히 포괄하지 못한다. 따라서 향후 연구에서는 더 정교한 양자 물리 모델과 연계한 하이브리드 검증 프레임워크가 필요하다고 제안한다.