텐서 네트워크 기반 양자 회로로 데이터 로딩 깊이 크게 단축

초록

본 논문은 고전 데이터의 양자 암플리튜드 인코딩 시 발생하는 지수적 회로 깊이 문제를 해결하기 위해 텐서 네트워크(TN) 이론을 활용한 새로운 컴파일러 AMLET을 제안한다. AMLET은 데이터 특성에 맞는 TN 토폴로지를 설계해 원하는 깊이 제한 내에서 효율적인 로딩을 가능하게 하며, 금융, 이미지, 유체역학, 단백질 데이터에 대한 실험을 통해 기존 방법 대비 수십 배에서 수천 배까지 회로 깊이를 감소시켰음을 보여준다.

상세 분석

본 연구는 양자 컴퓨팅에서 가장 기본적이면서도 실용성을 가로막는 ‘입력 문제(input problem)’에 초점을 맞춘다. 고전 데이터를 양자 상태에 암플리튜드 인코딩(amplitude encoding) 방식으로 매핑하려면, 일반적인 경우 N개의 데이터 포인트를 담은 2^n 차원의 벡터를 n개의 큐비트에 로드해야 한다. 이때 각 데이터 요소를 직접 회로에 반영하려면 제어된 회전 게이트를 순차적으로 적용해야 하므로, 최악의 경우 회로 깊이가 O(2^n)까지 급증한다. 이러한 지수적 비용은 양자 알고리즘이 고전 알고리즘을 앞서는 ‘양자 우위’를 실현하는 데 큰 장애물이다.

논문은 이 문제를 해결하기 위해 텐서 네트워크(TN) 이론을 차용한다. TN은 고차원 텐서를 저차원 텐서들의 곱으로 분해해 효율적으로 표현하는 수학적 도구이며, 특히 MPS(Matrix Product State)나 TT(Tensor Train)와 같은 구조는 데이터의 내재된 상관관계를 압축하는 데 강점이 있다. 저자들은 이러한 TN 구조를 양자 회로 설계에 직접 매핑하는 방법을 고안했으며, 이를 ‘AMLET(Automatic Multi-layer Loader Exploiting TNs)’이라 명명하였다.

AMLET의 핵심 아이디어는 다음과 같다. 먼저 입력 벡터를 사전에 선택된 TN 토폴로지(예: 트리형, 사다리형, 혹은 혼합형)로 분해한다. 이때 각 텐서의 차원과 연결 구조는 목표 회로 깊이와 허용 오류율에 따라 자동으로 조정된다. 분해된 텐서는 각각 작은 규모의 유니터리 게이트 집합으로 변환되며, 이러한 게이트들을 다층으로 쌓아 최종 로딩 회로를 구성한다. 중요한 점은, 텐서 차원을 제한함으로써 각 레이어의 게이트 수를 제한하고, 전체 깊이를 사전에 지정한 값 이하로 강제할 수 있다는 것이다. 즉, ‘깊이 제한(depth budget)’을 입력 파라미터로 제공하면, AMLET은 그 예산 안에서 가능한 최적의 TN 분해와 회로 스케줄링을 수행한다.

복잡도 분석 측면에서 저자들은 AMLET이 최악의 경우에도 O(poly(N)) 수준의 게이트 수와 O(log N)~O(N) 정도의 깊이를 보장한다는 점을 증명한다. 이는 기존의 일반 로딩 알고리즘이 보이는 O(2^n) 깊이와는 근본적인 차이를 만든다. 또한, 텐서 차원 축소 과정에서 발생하는 근사오차는 전체 로딩 오류에 선형적으로 기여하도록 설계돼, 사용자는 허용 오차와 회로 깊이 사이의 트레이드오프를 명시적으로 조절할 수 있다.

실험 부분에서는 금융 시계열, MNIST와 CIFAR‑10 같은 이미지 데이터, 2‑D 및 3‑D 유체 흐름 시뮬레이션 결과, 그리고 단백질 구조 데이터를 대상으로 AMLET을 적용하였다. 각 도메인별 데이터는 고유한 스펙트럼 특성을 가지고 있어, 동일한 TN 토폴로지가 모두에게 최적은 아니었다. 따라서 저자들은 도메인별 맞춤형 토폴로지를 자동으로 탐색하는 ‘메타‑옵티마이저’를 추가로 구현하였다. 결과적으로, 금융 데이터는 평균 깊이 12 ~ 18, 이미지 데이터는 20 ~ 30, 유체역학 데이터는 25 ~ 40, 단백질 데이터는 30 ~ 55 정도의 깊이만으로도 원본 벡터를 10^-3 이하의 L2 오차로 재현할 수 있었다. 이는 동일 정확도를 목표로 한 기존 방법이 요구하는 2^n(≈ 10^3 ~ 10^6) 수준의 깊이와 비교해 수십 배에서 수천 배까지 감소한 수치이다.

또한, AMLET이 제공하는 ‘다중 레이어 로더’ 구조는 양자 회로 최적화 툴체인과 원활히 연동될 수 있음을 보였다. 예를 들어, Qiskit, Cirq, 그리고 IBM Qiskit Runtime과 같은 플랫폼에 직접 삽입했을 때, 전체 실행 시간과 오류율이 실험적으로 감소했으며, 이는 실제 양자 하드웨어에서의 적용 가능성을 높인다. 마지막으로, 저자들은 데이터가 ‘짧은 깊이(short depth)’에 로드 가능하다는 현상이 데이터 자체가 저차원 구조를 내포하고 있거나, 강한 상관관계를 갖는 경우가 많다는 통계적 해석을 제시한다. 이는 향후 양자 머신러닝, 양자 시뮬레이션, 그리고 양자 최적화 분야에서 데이터 전처리 단계부터 텐서 네트워크 기반 압축을 고려해야 함을 시사한다.

요약하면, AMLET은 텐서 네트워크 이론을 양자 회로 설계에 성공적으로 융합함으로써, 고전 데이터 로딩의 지수적 비용을 실질적으로 완화하고, 다양한 실제 데이터셋에 대해 깊이‑제한 로딩을 가능하게 하는 혁신적인 프레임워크이다. 이는 양자 컴퓨팅이 실제 산업 문제에 적용될 때 가장 큰 병목 중 하나인 입력 문제를 근본적으로 재정의한다는 점에서 큰 의미를 가진다.