텐서 네트워크로 구현한 디퀀텀 알고리즘: 양자 우위 검증의 새로운 도구

초록

본 연구는 양자 컴퓨팅의 핵심 과제인 바닥 상태 에너지 추정 문제에서, 기존 디퀀텀 알고리즘의 큰 계산 부담을 해결하기 위해 텐서 네트워크 기반의 새로운 프레임워크를 제안합니다. 샘플링 과정을 제거하고 Chebyshev 벡터를 텐서 네트워크 상태로 표현함으로써, 계산 복잡도를 유지하면서 물리적 구조(얽힘, 국소성)를 비용에 자연스럽게 반영합니다. 행렬 곱 상태와 같은 근사를 활용한 실용적인 알고리즘을 구성하여, 최대 100큐비트 시스템에 대해 고차 다항식(차수 10^4)을 효율적으로 구성함을 수치 시뮬레이션으로 입증했습니다.

상세 분석

이 논문의 핵심 기술적 통찰은 양자 알고리즘의 디퀀텀화 과정에서 발생하는 샘플링 오버헤드를 텐서 네트워크 표현의 결합 차원 증가 문제로 치환했다는 점에 있습니다. 기존의 디퀀텀 알고리즘은 Monte Carlo 샘플링을 통해 고차원 벡터의 내적을 추정하는 방식으로, 통계적 오차를 줄이기 위해 엄청난 샘플링 수가 필요하여 실질적인 구현을 방해했습니다.

본 연구에서는 Quantum Singular Value Transformation(QSVT)를 기반으로 한 양자 고유값 필터링 알고리즘을 텐서 네트워크를 이용해 고전적으로 시뮬레이션합니다. 구체적으로, 필터 다항식을 Chebyshev 다항식 기저로 전개한 후, 각 Chebyshev 벡터 |t_k⟩ = T_k(H)|ψ⟩ (T_k: k차 Chebyshev 다항식)를 텐서 네트워크 상태로 표현합니다. 이후 이 상태들 간의 내적(Chebyshev 모멘트 μ_k = ⟨ψ|T_k(H)|ψ⟩)을 텐서 네트워크 축소를 통해 결정론적으로 계산합니다. 이 과정에서 샘플링 노이즈는 완전히 제거됩니다.

여기서 계산 비용의 병목은 샘플링 분산에서 Chebyshev 벡터의 점진적인 얽힘 증가로 이동합니다. Chebyshev 다항식의 차수 k가 증가함에 따라 |t_k⟩는 더 복잡한 얽힘 구조를 가지게 되고, 이를 정확하게 표현하기 위해 필요한 텐서 네트워크의 결합 차원이 증가합니다. 이 증가율은 시스템의 물리적 구조(예: 1차원 대 2차원, 국소 상호작용의 강도)에 직접적으로 의존합니다. 따라서 이 프레임워크는 이론적 복잡도 분류뿐만 아니라, 실제 물리 시스템의 특성이 계산 난이도에 어떻게 영향을 미치는지를 정량적으로 보여줄 수 있는 장점을 가집니다.

연구팀은 이 정확한 축소 방식을 행렬 곱 상태(MPS) 근사와 선형 예측 기법을 결합한 실용적 변형 알고리즘으로 확장합니다. 이는 매우 높은 차수의 다항식(최대 10^4차)까지도 현실적인 계산 자원 내에서 구성할 수 있게 합니다. 1차원 및 2차원 횡방향 Ising 모델에 대한 수치 실험은 이 방법이 100큐비트 시스템을 처리할 수 있음을 보여주며, 특히 1차원 시스템은 높은 정밀도로 디퀀텀화 가능한 반면 2차원 시스템은 그렇지 않다는 ‘교차 영역’을 시각적으로 드러냅니다. 이는 정밀도 매개변수 ε 하나의 척도로 고전적으로 다룰 수 있는 영역과 양자 우위가 필요한 영역의 경계를 엄밀하게 규정하는 디퀀텀화 철학의 정수를 구현한 것입니다.