양자 분기 프로그램을 위한 지문 기법 기반 알고리즘

초록

본 논문은 양자 순서형 일회 읽기 분기 프로그램(QOBDD)을 이용해 불린 함수를 효율적으로 계산하는 새로운 방법을 제시한다. 핵심은 지문(fingerprinting) 기법과 함수의 특성 다항식 표현을 결합하는 것으로, 이를 통해 Equality, Palindrome, Permutation Matrix Test와 같은 기존에 알려진 함수들에 대해 최적의 QOBDD를 구성한다. 또한 이 방법을 일반화하여 Boolean 형태의 Hidden Subgroup Problem에도 적용한다.

상세 분석

논문은 먼저 양자 OBDD(Ordered Binary Decision Diagram)의 구조와 기존 연구에서 제시된 복잡도 한계를 정리한다. 전통적인 양자 OBDD는 상태 수가 입력 길이에 비례하거나 그보다 크게 증가하는 경우가 많아 실용적인 구현에 제약이 있었다. 저자들은 이러한 한계를 극복하기 위해 두 가지 핵심 아이디어를 도입한다. 첫 번째는 함수의 특성 다항식(characteristic polynomial)을 이용해 입력을 다항식 형태로 변환하는 방법이다. 이 다항식은 Boolean 함수 f(x₁,…,xₙ)를 0-1 값이 아닌 복소수 계수의 다항식으로 표현함으로써, 양자 상태에 직접 매핑할 수 있는 구조를 제공한다. 두 번째는 지문 기법이다. 고전적인 지문 알고리즘은 큰 입력을 작은 고정 길이의 해시값으로 압축해 충돌 확률을 낮추는 방식으로, 양자 환경에서는 얽힘과 중첩을 활용해 동일한 압축 효과를 얻는다. 구체적으로, 입력 비트열을 소수 p에 대한 잔여값으로 변환한 뒤, 각 잔여값을 복소수 위상으로 인코딩하고, 이를 양자 회로의 위상 게이트에 적용한다. 이렇게 하면 전체 입력을 O(log p)개의 양자 비트에 압축할 수 있다.

특히, 저자들은 이 두 기법을 결합해 “특성 다항식 → 지문 변환 → 양자 회로 구현”이라는 파이프라인을 설계한다. 예를 들어 Equality 함수는 두 문자열이 동일한지를 판단하는데, 특성 다항식은 두 문자열의 차이 벡터의 L₂ 노름을 제곱한 형태가 된다. 이를 p‑모듈러 연산으로 변환하고, 양자 위상 게이트에 적용하면 O(log n)개의 양자 비트와 O(log n) 깊이의 회로만으로 정확히 판단할 수 있다. Palindrome과 Permutation Matrix Test 역시 각각 회문성 검증과 행·열 순열 검증을 위한 특성 다항식을 정의하고, 동일한 지문 압축 과정을 거쳐 O(log n) 규모의 QOBDD를 얻는다.

또한 논문은 이 방법을 일반화하여 Boolean Hidden Subgroup Problem(BHSP)에 적용한다. BHSP는 주어진 함수가 어떤 서브그룹에 대해 일정한 값을 갖는지를 찾는 문제로, 기존 양자 알고리즘은 Fourier 변환을 기반으로 복잡도가 O(√|G|) 수준이었다. 저자들은 특성 다항식을 서브그룹의 지표 함수로 정의하고, 이를 지문 기법으로 압축함으로써 서브그룹을 식별하는 데 필요한 양자 비트 수를 O(log |G|)로 감소시킨다. 이 과정에서 양자 상태의 중첩을 활용해 여러 후보 서브그룹을 동시에 검증할 수 있어, 전체 복잡도가 기존 방법 대비 지수적으로 개선된다.

실험적 평가에서는 제안된 QOBDD가 기존 최적 알고리즘과 동일하거나 더 낮은 폭(width)과 깊이(depth)를 보이며, 특히 메모리 사용량이 크게 감소함을 확인한다. 이는 양자 회로 설계 시 물리적 큐비트 수와 오류율을 최소화하는 데 직접적인 이점을 제공한다.

결론적으로, 논문은 특성 다항식과 지문 기법을 결합한 새로운 설계 패러다임을 제시함으로써, 다양한 Boolean 함수에 대해 최적 수준의 양자 OBDD를 구현할 수 있음을 증명한다. 이 접근법은 향후 양자 컴파일러와 메모리 제한이 있는 양자 하드웨어에서 실용적인 알고리즘 설계에 중요한 기반이 될 것으로 기대된다.