선형 광학의 계산 복잡도와 고전 시뮬레이션 한계

초록

이 논문은 동일한 광자를 선형 광학 회로에 통과시킨 뒤 비적응적 검출을 하는 “보손 샘플링”(BosonSampling) 모델을 정의하고, 이를 고전 컴퓨터가 효율적으로 시뮬레이션할 경우 다항계층이 붕괴한다는 강력한 복잡도 결과를 제시한다. 핵심은 영국 가우시안 행렬의 영구(permanent)를 근사하는 것이 #P‑hard라는 두 가지 가정(영구‑가우시안 추정 및 반집중성)이다.

상세 분석

본 논문은 양자 광학의 비상호작용 보손 시스템을 이론 컴퓨터 과학자의 관점에서 재구성한다. 먼저, 동일 광자를 다중 모드에 무작위로 입력하고, 선형 광학 네트워크(즉, 빔 스플리터와 위상 변이기만으로 구성된 유니터리 변환)를 통과시킨 뒤, 각 모드에 남은 광자 수를 비적응적으로 측정한다. 이 과정에서 발생하는 출력 확률분포는 입력 행렬의 영구(permanent)와 직접적으로 연결된다. 구체적으로, n개의 광자를 m≥n개의 모드에 배치했을 때, 특정 출력 구성에 대한 확률은 해당 입력‑출력 서브행렬의 영구의 제곱에 비례한다.

이 모델은 보편적인 양자 컴퓨터와는 달리 보조적인 양자 연산(예: 비선형성, 피드백, 중간 측정 등)이 없으므로 ‘보통’ 양자 회로와는 구별된다. 그럼에도 불구하고, 저자들은 이 모델이 ‘샘플링 문제’에서 고전적인 알고리즘이 따라잡기 힘든 복잡성을 내포한다는 점을 증명한다. 핵심 논증은 다음과 같다.

1. 정확한 샘플링 가정: 만약 다항시간 고전 알고리즘이 동일한 확률분포에서 샘플을 뽑을 수 있다면, 복잡도 클래스 P^#P와 BPP^NP가 동등해진다. 이는 다항계층(PH)의 3번째 레벨까지 붕괴한다는 강력한 결과를 초래한다.

2. 근사/노이즈 허용 샘플링: 실제 실험에서는 완전 정확한 샘플링이 불가능하므로, 저자들은 ‘근사 샘플링’에 대한 복잡도 분석을 확장한다. 여기서 두 가지 미증명 가정이 필요하다. 첫째, 영구‑가우시안 추정 영구(POGC) 가정은 독립적인 표준 정규분포 원소를 갖는 N×N 행렬 A에 대해, 그 영구를 (1+ε) 정도의 상대오차로 근사하는 것이 #P‑hard임을 주장한다. 둘째, **영구 반집중성 가정(PAC)**은 |Per(A)|가 평균값 √(n!)에 비해 다항식 이하로 감소하지 않는다는 확률적 하한을 제공한다.

이 두 가정이 성립한다면, 어느 정도의 잡음이나 근사 오차가 허용된 상황에서도 고전적인 다항시간 시뮬레이션은 PH를 붕괴시킨다. 즉, 실험적으로 구현 가능한 ‘노이즈가 있는 보손 샘플링’조차도 복잡도 이론상으로는 고전적으로 효율적이지 않다.

저자들은 또한 POGC와 PAC에 대한 경험적·수학적 증거를 제시한다. 예를 들어, 가우시안 행렬의 영구 분포가 복소 가우시안 자유 에너지와 유사한 형태를 보이며, 이는 고전적인 평균값-분산 분석을 통해 반집중성을 뒷받침한다. 또한, 영구 근사 문제를 #P‑hard로 만드는 기존 결과(예: Valiant의 영구 계산 난이도)를 확장해, 평균적인 경우에도 동일한 난이도가 유지된다는 직관을 제공한다.

마지막으로, 논문은 현재 광학 실험 기술(단일 광자 발생기, 저손실 빔 스플리터 네트워크, 고효율 비적응 검출기)을 바탕으로, 20~30개의 광자를 다루는 실험이 충분히 가능함을 강조한다. 이러한 규모는 복잡도 이론상으로는 PH 붕괴를 유도할 만큼 충분히 큰 ‘증거’를 제공한다. 따라서 이 연구는 ‘양자 우월성(quantum supremacy)’을 증명하기 위한 새로운 경로를 제시한다는 점에서 학계와 산업계 모두에게 큰 의미를 가진다.