한 번에 끝내는 공정 문서 교환 최적화 프로토콜

초록

본 논문은 두 당사자 간의 문서 교환을 위한 공정성을 보장하면서도 메시지 교환 횟수를 최소화한 프로토콜을 제안한다. 핵심은 문서 키에 대한 검증 가능하고 복구 가능한 암호화(VREC)를 이용해 상대방이 키를 검증하고, 반대로 반쯤 신뢰되는 제3자(STTP)가 필요 시 키를 복구하도록 설계한 것이다. 또한 한쪽 당사자의 정직성을 강제하는 메커니즘을 포함해 총 3개의 메시지만으로 기존 프로토콜보다 효율성을 크게 향상시켰다.

상세 분석

이 프로토콜은 공정 교환(fair exchange)의 핵심 과제인 ‘누구도 상대방을 속일 수 없게 하는’ 조건을 암호학적 기법으로 구현한다. 먼저 문서 자체는 대칭키(K)로 암호화하고, 이 키를 검증 가능하고 복구 가능한 형태(VREC)로 변환한다. VREC는 두 단계로 구성된다. 첫 번째 단계는 공개키 암호화(EPK)와 해시 기반 증명(Proof of Knowledge)을 결합해 키를 암호화하면서도 수신자가 해당 암호문이 올바른 키를 기반으로 생성되었는지 검증할 수 있게 한다. 두 번째 단계는 반쯤 신뢰되는 제3자(STTP)가 사전에 키의 복구 정보를 보관하도록 설계한다. STTP는 실제로 키를 복구할 권한을 갖지만, 복구는 오직 상대방이 교환을 이행하지 않을 경우에만 트리거된다. 이러한 구조는 ‘키 검증 + 복구 가능성’이라는 두 축을 동시에 만족시켜, 교환 과정에서 어느 한쪽이 악의적으로 행동하더라도 상대방은 손실을 입지 않게 만든다.

프로토콜은 세 개의 메시지만으로 교환을 완료한다. ① A는 문서와 VREC된 키를 B에게 전송하고, 동시에 복구 정보를 STTP에 제출한다. ② B는 자신의 문서를 동일한 방식으로 A에게 전송하고, 복구 정보를 STTP에 제공한다. ③ 양측은 서로의 VREC 키를 검증하고, 검증이 성공하면 각자 문서 복호화에 필요한 대칭키를 얻는다. 만약 B가 ② 단계에서 응답하지 않으면, A는 STTP에게 복구 정보를 제시해 B의 키를 복구하고, 반대로 B도 동일하게 A의 키를 복구할 수 있다. 이때 복구 절차는 STTP가 독립적으로 수행하므로, 어느 한쪽도 교환을 강제로 중단시킬 수 없다.

핵심적인 보안 속성은 다음과 같다. (1) 공정성: 어느 한쪽도 상대방이 문서를 받기 전에 자신의 문서를 강제로 확보할 수 없다. (2) 무부인성: 각 단계에서 교환된 메시지는 서명으로 보호되어, 나중에 부인할 수 없게 만든다. (3) 강제성(enforce honesty): 한쪽이 정직하게 행동하도록 강제하기 위해 복구 정보를 사전에 제출하도록 요구한다. (4) 최소 메시지 오버헤드: 기존 4~5 단계 프로토콜에 비해 3 단계로 축소돼 네트워크 지연과 처리 비용이 크게 감소한다. 또한 암호 연산은 대칭키 암호와 RSA 기반 공개키 연산에 국한돼, 실용적인 구현이 가능하다. 다만 STTP에 대한 신뢰 모델이 ‘반쯤 신뢰’에 머무르므로, STTP가 악의적으로 복구 정보를 악용하거나 거부할 경우 시스템 전체가 위험에 처할 수 있다. 따라서 STTP의 운영 정책과 물리적 보안이 중요한 전제 조건이 된다.