안전한 양자간 점 포함 프로토콜

초록

일반적인 안전한 다자간 계산 문제는 회로 평가 프로토콜을 이용하면 이론적으로 해결할 수 있다. 그러나 이러한 프로토콜의 통신 복잡도는 계산하고자 하는 기능을 표현하는 회로의 크기에 비례하므로 실용적인 적용이 어렵다. 따라서 특정 문제에 대해서는 효율성을 높이기 위한 특수한 해결책이 필요하다. 계산기하학에서 점 포함 문제는 특수한 다자간 계산 사례이며 다양한 응용 분야에서 활용된다. 기존의 안전한 점 포함 프로토콜은 충분히 만족스럽지 못하다. 본 논문에서는 기존에 알려진 점 포함 문제 해결 방법들을 안전한 양자간 계산 프레임워크에 맞게 수정·적용한다.

상세 요약

안전한 다자간 계산(Secure Multi‑Party Computation, SMPC)은 참여자들이 각자의 비밀 입력을 노출하지 않으면서 공동으로 함수를 평가하도록 설계된 암호학적 프로토콜이다. 전통적인 접근 방식은 부울 회로나 아리트메틱 회로로 문제를 표현한 뒤, Yao의 가리기 회로(Garbled Circuit) 혹은 GMW 프로토콜과 같은 회로 평가 기법을 적용한다. 이때 통신 복잡도는 회로의 게이트 수에 정비례하므로, 입력 크기에 비해 회로가 복잡해지는 경우(예: 고차원 기하 연산, 복합 논리 연산)에는 실용적인 사용이 어렵다.

점 포함(Point Inclusion) 문제는 “주어진 평면 다각형 안에 특정 점이 포함되는가?”를 판정하는 전형적인 기하학적 질문이다. 이 문제는 GIS, 로봇 경로 계획, 컴퓨터 그래픽스 등에서 핵심적인 역할을 한다. 비밀 데이터가 두 당사자에게 각각 존재한다면, 한쪽은 다각형의 정점 집합을, 다른 한쪽은 테스트할 점의 좌표를 보유하게 된다. 두 당사자는 서로의 입력을 노출하지 않으면서 포함 여부를 결정해야 한다.

기존 연구에서는 주로 공개된 다각형에 대해 점을 암호화된 형태로 전송하거나, 전통적인 회로 기반 SMPC를 그대로 적용하는 방식을 제시하였다. 이러한 방법은 두 가지 주요 한계를 가진다. 첫째, 다각형의 정점 수가 많아질수록 회로 규모가 급격히 증가해 통신·연산 비용이 비현실적인 수준에 도달한다. 둘째, 기존 프로토콜은 종종 비대칭 암호(예: RSA, ElGamal)와 복잡한 영지식 증명을 결합해 구현이 복잡하고, 실시간 응용에 부적합한 지연을 초래한다.

본 논문은 이러한 문제점을 해소하기 위해, 기하학적 알고리즘 자체를 보안 프로토콜에 자연스럽게 녹여내는 접근을 채택한다. 구체적으로는 (1) 다각형을 선형 부호화하여 각 변을 선형 방정식 형태로 표현하고, (2) 두 당사자가 서로의 입력에 대해 선형 암호화(예: Paillier 동형 암호)만을 사용해 교차 판정을 수행한다. 선형 연산은 동형 암호 하에서 효율적으로 계산될 수 있으므로, 회로 기반 접근에 비해 게이트 수가 크게 감소한다. 또한, 변의 방향과 점-변 사이의 교차 횟수를 비밀 유지하면서도 정확히 계산하기 위해, 부호 판단을 위한 안전한 비교 프로토콜(예: Yao의 비교 회로를 최적화한 버전)을 도입한다.

이러한 설계는 다음과 같은 장점을 제공한다. 첫째, 통신 복잡도가 다각형의 정점 수에 선형적으로 증가하므로, 대규모 지도 데이터에도 확장 가능하다. 둘째, 암호화 연산이 주로 덧셈·스칼라 곱에 국한되므로, 기존 회로 기반 프로토콜에 비해 연산량이 현저히 적다. 셋째, 프로토콜 전체가 두 당사자 간의 순차적 라운드(보통 2~3라운드)만으로 완료되므로, 실시간 혹은 근실시간 응용에 적합하다.

하지만 몇 가지 제한점도 존재한다. 동형 암호의 키 크기와 암호문 크기가 여전히 비교적 크기 때문에, 네트워크 대역폭이 제한된 환경에서는 전송 비용이 부담될 수 있다. 또한, 부호 비교 단계에서 발생하는 부정확한 오버플로우를 방지하기 위해 충분히 큰 정수 범위로 매핑해야 하며, 이는 구현 복잡성을 약간 증가시킨다. 마지막으로, 현재 설계는 평면 다각형(단순 다각형)만을 대상으로 하며, 다중 폴리곤이나 3차원 객체에 대한 확장은 추가 연구가 필요하다.

향후 연구 과제로는 (a) 경량화된 동형 암호 스킴(예: BFV, CKKS)의 적용을 통한 암호문 크기 감소, (b) 멀티라운드 비교 프로토콜을 최소화하는 새로운 부호 판단 기법 개발, (c) 다중 당사자 시나리오와 비밀 다각형(다각형 자체가 비밀) 상황에 대한 일반화, (d) 실제 GIS 데이터와 연동한 프로토콜 구현 및 성능 평가가 있다. 이러한 방향으로 연구가 진행된다면, 안전한 기하학 연산이 실무 시스템에 널리 도입될 수 있을 것으로 기대한다.