희소 텐서를 이용한 복잡 양자 회로 근사 시뮬레이션

초록

본 논문은 양자 회로를 고전적으로 근사 시뮬레이션하기 위해, 비대칭적인 양자 상태를 효율적으로 표현할 수 있는 희소 텐서 구조와 그 수축·절단 알고리즘을 제안한다. 데이터 구조는 최대 k 개의 비제로 진폭을 저장하며, 게이트 적용 시 비트 마스크 기반 정렬·그룹화로 4배 메모리 증가를 억제한다. ‘top‑k’ 절단을 통해 매 단계마다 가장 큰 진폭을 유지하고, 정규화 인자 γ 를 통해 기대 피델리티 f≈γ² 를 예측한다. 실험에서는 N≤24 qubit, 깊이 L≤5 인 Haar‑random 회로에 대해 k/2ⁿ 비율을 변화시켜 피델리티와 γ²의 관계를 검증하였다. 결과는 메모리·시간 복잡도가 k에 선형, N에 거의 독립적임을 보여, 대규모 양자 회로의 근사 시뮬레이션에 유망함을 시사한다.

상세 분석

이 연구는 기존 텐서 네트워크 기반 시뮬레이션이 대칭성이나 저차원 구조에 의존하는 한계를 극복하고자, 완전한 비대칭 양자 상태를 희소 텐서 형태로 압축한다는 근본적인 아이디어를 제시한다. 핵심 데이터 구조는 두 개의 길이 k 인 배열 x (정수형 basis index)와 α (복소 진폭)로 구성되며, k 는 시뮬레이션 시작 전에 고정된 상한이다. 실제 양자 상태 |ψ⟩ 가 희소하거나 진폭 분포가 급격히 감소하는 경우, 작은 k 만으로도 높은 피델리티 f=|⟨ψ|ϕ⟩|²를 유지할 수 있다.

게이트 적용 단계에서는 먼저 대상 게이트가 작용하지 않는 비트를 마스크하고, 마스크된 비트값에 따라 x 배열을 정렬·그룹화한다. 이렇게 하면 동일한 마스크값을 가진 원소들만이 같은 4×4 유니터리 U 에 의해 독립적으로 변환될 수 있어, 전통적인 텐서 수축에서 발생하는 차원 폭발을 방지한다. 수축 후 n_z (비제로 원소 수)는 최대 4배까지 증가할 수 있으나, 즉시 ‘top‑k’ 절단을 수행해 가장 큰 k 개의 진폭만 남긴다. 절단 과정에서 남는 진폭의 총 제곱합을 γ² 라 두고, 정규화 인자 γ 를 곱해 상태를 재정규화한다.

이론적으로는 절단 후 피델리티가 γ² 보다 약간 높아질 수 있음을 보였으며, 이는 절단되지 않은 진폭들의 상호작용(ε) 항이 평균적으로 0에 가까워서 발생한다. 특히 Porter‑Thomas 분포를 따르는 깊은 랜덤 회로에서는 γ² 와 f 사이의 관계가 거의 선형에 가깝게 관측되었다. 최악의 경우 k=1 일 때 피델리티는 2⁻ᴺ 에 수렴하며, 이는 무작위 추측과 동일한 수준이다. 반면, 회로 전체가 끝난 뒤 한 번만 절단하는 경우(최대 피델리티 f_max)에는 f≈d(1−ln d) (여기서 d=k/2ᴺ)라는 상한을 얻는다.

실험에서는 N=24 qubit, L=1,3,5 층의 Haar‑random 회로에 대해 다양한 k 값을 시험했다. 결과는 f 가 γ² 에 근접하면서도, ‘top‑k’ 절단이 ‘random‑k’ 절단보다 일관되게 높은 피델리티를 제공함을 보여준다. 또한 메모리 사용량은 k 에 선형적으로 증가하고, 연산 시간도 k·L 에 비례해 거의 N에 독립적인 스케일을 보였다. 이는 기존 MPS나 PEPS와 달리, 양자 회로가 깊어질수록 차원 폭발이 아닌 k 에 의해 제어되는 복잡도 모델을 제시한다는 점에서 의미가 크다.

이 논문의 주요 기여는 (1) 비대칭적인 양자 상태를 표현할 수 있는 희소 텐서 데이터 구조, (2) 비트 마스크 기반 효율적인 텐서 수축 알고리즘, (3) 절단 후 정규화 인자 γ 를 이용한 피델리티 예측 모델, (4) 다양한 회로 깊이와 크기에 대한 실증적 검증이다. 향후 연구는 k 를 동적으로 조정하는 적응형 절단, GPU/TPU 가속을 통한 대규모 시뮬레이션, 그리고 측정 가능한 양(예: 교차 엔트로피 피델리티)와의 연계 등을 포함할 수 있다.