양자 커널 기반 행렬 곱셈으로 복잡도 O(N² log N) 달성

초록

본 논문은 양자 커널 기법을 이용한 행렬 곱셈 알고리즘(QKMM)을 제안한다. 기본 양자 게이트 수 기준으로 시간 복잡도를 O(N² log N)으로 낮추어, 현재 알려진 최적 고전 알고리즘의 O(N^2.371552)보다 이론적으로 우수함을 보인다. 또한 무노이즈·노이즈 시뮬레이션을 통해 실험적 실행 가능성과 안정성을 검증한다.

상세 분석

이 논문은 기존 고전 행렬 곱셈 알고리즘들의 복잡도 한계를 상세히 정리한 뒤, 양자 컴퓨팅의 병렬성 및 초고밀도 상태 저장 능력을 활용한 새로운 프레임워크를 제시한다. 핵심 아이디어는 “양자 커널(inner‑product) 모듈”을 이용해 벡터‑벡터(V2V), 벡터‑행렬(V2M), 행렬‑행렬(M2M) 그리고 다중 행렬(M‑MM) 연산을 하나의 양자 회로 안에서 동시에 수행하도록 설계하는 것이다.

1. 복잡도 정의와 측정 기준

   • 고전에서는 곱셈 연산 수를, 양자에서는 기본 양자 게이트(단일·두‑큐빗) 수를 복잡도 단위로 채택하였다. 이는 양자 회로에서 연산이 연속적인 연산 흐름으로 구현되기 때문에 적절한 비교 기준이 된다.
   • 논문은 QKMM의 게이트 복잡도를 O(N² log N)으로 도출했으며, 이를 수학적으로 O(N² log N)=N²+o(N²) 형태로 전개해 이론적 하한인 O(N²)와 거의 일치함을 증명한다.

2. 알고리즘 구조

   • V2V: 양자 커널 내적 모듈은 추가 보조 큐빗 없이 직접 그라운드 상태에서 내적 값을 추출한다. 기존 Swap Test와 Hadamard Test 대비 게이트 수와 ancilla 요구량이 크게 감소한다.
   • V2M: V2V를 확장해 행렬‑벡터 곱을 단일 회로에서 구현한다. 여기서는 각 행을 정규화된 양자 상태로 인코딩하고, 슈퍼포지션을 이용해 전체 행 연산을 병렬화한다.
   • M2M: V2M을 두 차원으로 확장해 전체 행렬‑행렬 곱을 한 번에 수행한다. 회로는 행·열 각각을 정규화된 양자 레지스터에 매핑하고, 내부 내적 모듈을 다중 호출해 결과 행렬을 직접 출력한다.
   • M‑MM: M2M 구조를 재활용해 하나의 회로에서 동일한 행렬을 여러 대상 행렬에 동시에 곱한다. 이는 양자 병렬성의 극한 형태로, 실험에서는 병렬 행렬 수가 늘어날수록 평균 실행 시간이 감소함을 확인했다.

3. 시뮬레이션 및 실험

   • 무노이즈 시뮬레이션: pyQ‑Panda와 Origin Quantum 플랫폼을 이용해 4×4부터 16×16까지 다양한 크기의 행렬에 대해 V2V, V2M, M2M, M‑MM을 각각 측정했다. 결과는 전통적인 Swap Test·Hadamard Test 대비 2~5배 빠른 실행 시간을 보여준다. 특히 N이 커질수록 복잡도 차이가 기하급수적으로 확대된다.
   • 노이즈 시뮬레이션: 현재 상용 초전도 프로세서의 T₁≈50 µs, T₂≈30 µs, 단일‑큐빗 게이트 충실도 99.8 %, 두‑큐빗 ECR 게이트 97.5 %를 파라미터로 설정해 10 000번 샷을 수행했다. Fidelity는 V2V에서 0.96 이상, M2M에서는 0.90 수준을 유지했으며, 노이즈가 심해질수록 평균 오차가 선형적으로 증가한다는 점을 정량화했다.

4. 비교 분석

   • 표 1에 제시된 기존 양자 행렬 곱셈 방법(Swap Test, Hadamard Test)과 QKMM을 비교하면, QKMM은 게이트 복잡도에서 O(N² log N)으로 가장 낮으며, 필요 큐빗 수도 동일하거나 약간 더 적다.
   • 고전 최첨단 알고리즘(예: 2024년 레이저‑해시 결합)과 비교했을 때, 이론적 복잡도 차이는 로그 팩터 하나이며, 이는 대규모 N에서 실질적인 속도 향상으로 이어질 가능성이 있다.

5. 한계와 향후 과제

   • 현재 구현은 입력 행·열을 정규화된 양자 상태로 인코딩해야 하는 제약이 있다. 이는 데이터 전처리 비용을 증가시킬 수 있다.
   • 회로 깊이가 log N에 비례하므로, N이 매우 클 경우 NISQ 디바이스의 코히런스 시간 한계에 부딪힌다. 따라서 오류 정정 코드와 더 효율적인 상태 인코딩 기법이 필요하다.
   • 실제 하드웨어에서 대규모 행렬(예: 1024×1024)까지 확장하려면 큐빗 수와 게이트 오류율이 현재 수준보다 크게 개선돼야 한다.

전반적으로 이 논문은 양자 커널 기반 접근법이 행렬 곱셈의 복잡도 하한에 근접할 수 있음을 이론·실험적으로 입증했으며, NISQ 시대에 실용적인 양자 선형대수 프리미엄을 제시한다.