텐서 네트워크 기반 사전 최적화로 양자 회로의 사막 평원(Barren Plateau) 극복 및 고전 시뮬레이션 한계 탐색

초록

본 논문은 2차원 텐서 네트워크(PEPS)를 이용해 변분 양자 고유값 문제(VQE)의 파라미터화된 양자 회로를 사전 최적화한다. 이를 통해 전이장 이징 모델의 기저 상태를 높은 에너지 정확도로 준비하고, 사전 최적화된 ‘웜 스타트’가 기울기 소실(바레인 플래토) 영역을 크게 확장함을 보인다. 또한, 해당 웜 스타트 주변에서 에너지 기대값을 계산하는 고전 시뮬레이션 비용을 분석해, 특정 시스템 규모와 회로 깊이에서는 양자 하드웨어가 다항적 우위를 가질 수 있음을 제시한다.

상세 분석

이 연구는 변분 양자 알고리즘(VQA)에서 가장 큰 장애물 중 하나인 바레인 플래토(Barren Plateau) 현상을 텐서 네트워크(TN) 기반 사전 최적화로 완화한다는 점에서 혁신적이다. 저자들은 2차원 PEPS(Projected Entangled Pair States)를 자동 미분과 결합해 파라미터화된 양자 회로(PQC)의 파라미터를 고전적으로 최적화한다. PEPS는 2D 격자 구조에서 발생하는 루프 상관관계를 효율적으로 포착할 수 있어, 1차원 MPS나 트리 텐서 네트워크(TTN)보다 높은 차원의 시스템을 다룰 수 있다. 특히, 중량이 큰 ‘heavy‑hex’ 토폴로지와 전통적인 2D 정사각형 격자에 대해 실험을 진행했으며, 회로 깊이 D를 늘릴수록 에너지 오차가 감소함을 확인했다.

핵심적인 기술은 ‘Simple Update(SU)’ 알고리즘을 이용해 게이트 적용을 O(χ^{d+1}) 비용으로 수행하고, 자동 미분을 통해 L‑BFGS‑B 최적화기에 필요한 그라디언트를 효율적으로 얻는 것이다. 이는 양자 회로에서 파라미터 시프트 규칙이나 수치 미분에 비해 측정 비용을 크게 절감한다. 실험 결과, 깊이 D=3 이상의 회로를 무작위 초기화하면 최적화가 실패하지만, D=2에서 사전 최적화된 파라미터를 초기값으로 사용하면 D=3,4까지도 안정적으로 낮은 에너지 상태에 수렴한다. 이는 바레인 플래토가 존재하는 영역을 피하고, ‘비옥한 계곡(fertile valleys)’이라 불리는 비소멸 그라디언트 영역을 찾아낸 사례다.

그라디언트 영역의 크기 r_max를 파라미터 공간에서 샘플링해 에너지 분산 Var(E)로 측정했으며, r_max이 시스템 크기 N에 대해 선형, 회로 깊이 D에 대해 1/√D 비례함을 확인했다. 이는 바레인 플래토가 지수적으로 감소하는 반면, 사전 최적화된 영역은 다항적으로 감소한다는 이론적 예측과 일치한다.

고전 시뮬레이션 비용 분석에서는 에너지 오차 ε_TN을 시뮬레이션 시간 t에 대해 ε_TN = α / t^β 형태로 피팅했다. heavy‑hex 토폴로지에서는 β≈1.5~1.2 수준으로, 양자 샘플링 오차 ε_QC ∝ 1/√t (β_QC=0.5)보다 훨씬 큰 스케일링을 보였다. 즉, 동일 정확도를 달성하려면 고전 시뮬레이션이 더 오래 걸리며, 특히 D* (사전 최적화 깊이)를 크게 잡을수록 β는 감소하지만 여전히 0.5보다 크다. 시스템 규모를 53에서 127 qubit까지 확대해도 β 변화가 미미해, 현재 제시된 설정에서는 양자 하드웨어가 다항적 우위를 가질 가능성이 있다.

하지만, PEPS 자체의 계산 복잡도는 χ와 네트워크 차수 d에 따라 급격히 증가한다. 루프가 많은 정사각형 격자에서는 SU 방식의 정확도가 떨어져, 더 정교한 수축 기법이 필요함을 지적한다. 또한, 사전 최적화된 파라미터가 실제 양자 디바이스에 적용될 때 발생할 수 있는 게이트 오류와 디코히런스는 본 논문에서 다루지 않았으며, 이러한 실험적 요인이 최종 성능에 영향을 미칠 수 있다.

전반적으로, 텐서 네트워크를 활용한 사전 최적화는 바레인 플래토를 회피하고, 깊은 양자 회로를 효율적으로 초기화하는 실용적 방법을 제공한다. 특히, 2D 물리계의 기저 상태 탐색에서 고전 시뮬레이션과 양자 컴퓨팅 사이의 경계선을 명확히 제시함으로써, 향후 양자 우위가 실현될 수 있는 문제와 파라미터 설정을 가이드한다.