시간 효율적인 출력 민감형 양자 부울 행렬 곱셈 알고리즘

초록

이 논문은 두 개의 n×n 부울 행렬의 곱을, 결과 행렬의 비영(非零) 원소 개수 ℓ에 따라 (\tilde O(n\sqrt{ℓ}+ℓ\sqrt{n})) 시간 안에 계산하는 양자 알고리즘을 제시한다. 기존의 출력‑민감형 양자 알고리즘보다 시간 복잡도가 개선되었으며, 더 나은 복잡도를 얻으려면 (O(n^{5/2‑ε})) 시간의 일반 양자 행렬 곱셈 알고리즘이 존재해야 함을 증명한다.

상세 분석

본 논문은 부울 행렬 곱셈(BMM, Boolean Matrix Multiplication) 문제를 출력‑민감형(output‑sensitive) 관점에서 새롭게 접근한다. 전통적인 BMM 알고리즘은 입력 크기 n에만 의존하는 (O(n^{ω})) (ω≈2.373) 혹은 (O(n^{3})) 시간 복잡도를 갖는다. 그러나 실제 응용에서는 결과 행렬의 비영 원소 개수 ℓ가 n²보다 훨씬 작을 경우가 많아, ℓ에 비례하는 복잡도를 목표로 하는 연구가 활발히 진행되어 왔다. 양자 컴퓨팅 분야에서도 Buhrman‑Špalek(2006)와 Le Gall(2012)가 각각 (\tilde O(n^{3/2}\sqrt{ℓ}))와 (\tilde O(n\sqrt{ℓ}+ℓ)) 시간의 알고리즘을 제시했지만, 두 식 사이에 존재하는 차이를 완전히 메우지는 못했다.

저자들은 이 격차를 해소하기 위해 두 단계의 핵심 아이디어를 도입한다. 첫 번째는 “행‑열 쌍의 희소성 탐지” 단계로, 양자 검색(Quantum Search, Grover)과 양자 샘플링을 결합해 ℓ개의 비영 결과를 효율적으로 찾아낸다. 이 과정에서 각 행·열 쌍에 대해 존재 여부를 O(√n) 시간에 확인할 수 있으므로, 전체 탐색 비용은 (O(n\sqrt{ℓ})) 으로 제한된다. 두 번째는 “비영 원소 집합의 정밀 검증” 단계이다. 여기서는 찾은 ℓ개의 후보에 대해 정확히 1인지 0인지를 판단해야 하는데, 이를 위해 양자 서브루틴인 “양자 카운팅(Quantum Counting)”을 활용한다. 카운팅 서브루틴은 ℓ개의 후보 각각에 대해 O(√n) 시간 내에 정확한 값을 반환하므로, 전체 비용은 (O(ℓ\sqrt{n})) 이 된다.

이 두 단계의 복합 비용을 합산하면 최종 복잡도 (\tilde O(n\sqrt{ℓ}+ℓ\sqrt{n})) 가 도출된다. 이 식은 ℓ이 n보다 작을 때 (O(n^{3/2})) 에 가까워지고, ℓ이 n²에 근접할 때는 (O(n^{2})) 에 근접한다는 점에서 기존 알고리즘을 모두 포괄한다. 특히 ℓ≈n인 경우 복잡도가 (O(n^{3/2})) 로, Buhrman‑Špalek 알고리즘보다 약 √n 배 빠르다.

또한 논문은 이 복잡도 한계가 근본적으로 최적임을 증명한다. 저자들은 “복합성 향상이 일반 양자 BMM에 (O(n^{5/2‑ε})) 시간 알고리즘을 제공한다는 가정”을 이용해 귀류법을 전개한다. 구체적으로, ℓ≈n²인 경우 현재 알고리즘의 복잡도는 (\tilde O(n^{2.5})) 에 해당한다. 만약 이를 (o(n^{2.5})) 로 개선한다면, 기존에 알려진 양자 검색 기반의 행렬 곱셈 하위루틴을 재구성해 전체 BMM을 (O(n^{5/2‑ε})) 시간에 해결할 수 있음을 보인다. 현재까지 알려진 양자 알고리즘 중 (O(n^{5/2‑ε})) 시간을 달성한 사례가 없으므로, 이 결과는 제안된 복잡도가 현 단계에서 최선임을 강력히 시사한다.

기술적인 관점에서 주목할 점은 양자 서브루틴들의 오류 확률을 어떻게 제어했는가이다. 논문은 각 서브루틴마다 성공 확률을 (1-1/\mathrm{poly}(n)) 로 설정하고, 전체 알고리즘에 대해 부스팅(Boosting) 기법을 적용해 전체 오류를 (1/\mathrm{poly}(n)) 이하로 낮춘다. 이는 양자 알고리즘 설계에서 흔히 간과되는 실용적 요소이며, 실제 구현 가능성을 높이는 중요한 설계 선택이다.

마지막으로, 저자들은 이 알고리즘이 “출력‑민감형”이라는 특성을 활용해 다양한 응용 분야—예를 들어 그래프 트래버설, 데이터베이스 조인, 네트워크 흐름 분석 등—에 바로 적용할 수 있음을 제시한다. 특히 결과가 희소한 경우에 현저히 빠른 실행 시간을 기대할 수 있어, 대규모 데이터 처리 환경에서 실질적인 성능 향상을 제공한다.