양자 영감 텐서 네트워크로 QUBO·QUDO·T‑QUDO 문제와 k‑이웃 상호작용 해결

본 논문은 최근 양자 컴퓨팅에서 영감을 얻은 알고리즘을 고전 컴퓨팅 환경에 적용하기 위한 텐서 네트워크 기반 프레임워크를 제안한다. 핵심 아이디어는 MeLoCoT oN(모듈러 논리 조합 텐서 네트워크) 방법론을 활용해 QUBO(이진 변수), QUDO(정수 변수) 및 텐서 형태의 QUDO(T‑QUDO) 문제를 하나의 통합 텐서 방정식으로 변환하는 것이다. 먼저, QUBO와 QUDO의 수학적 정의를 복습하고, 비용 함수 C(x) 를 지수형 가중치 e^{‑τ C(x)} 로 변환한다. τ는 가상의 시간 파라미터이며, τ→∞ 로 갈수록 최소 비용 해가 가장 큰 진폭을 갖게 된다. 이를 텐서 네트워크의 초포지션 상태 |ψ⟩ = ∑ₓ e^{‑τ C(x)} |x⟩ 으로 표현한다. 다음으로 텐서 네트워크의 구성을 상세히 설명한다. 각 변수 x_i 는 차원 d_i (바이너리 경우 d_i=2)인 로컬 힐베르트 공간에 매핑되며, 변수 자체의 1차 항과 2차 항은 “C‑tensor”라는 1‑index 텐서로 구현된다. 변수 간 2차 상호작용 Q_{ij} 또는 고차 텐서 비용 ĤQ_{i,j,x_i,x_j} 는 “S‑tensor”라는 2‑index 혹은 4‑index 텐서로 나타낸다. S‑tensor는 입력 변수와 출력 변수를 연결하는 계단형 구조를 가지며, 인덱스 흐름을 제한함으로써 비제로 원소가 O(d²) 정도인 희소 텐서를 만든다. 전체 텐서 네트워크는 Fig. 1에 제시된 대로, 초포지션 레이어 → 대각선(자기항) 레이어 → 교차 상호작용 레이어 순으로 쌓인다. 이 네트워크를 완전 수축하면 |ψ⟩ = e^{‑τ C(x)} |x⟩ 이 얻어지고, 이후 각 변수 x_i 에 대해 “마진 텐서” |P_i⟩ = ∑_{x_{¬i}} e^{‑τ C(x)} |x_i⟩ 을 계산한다. τ가 충분히 크면 |P_i⟩ 에서 가장 큰 진폭을 가진 원소가 최적값이 된다. k‑이웃 선형 체인 문제에 대해서는 두 가지 구체적 구현을 제시한다. 1. **4차 텐서 수축 방식** - 각 변수와 그 k 개의 이웃 사이의 상호작용을 4차 텐서 T_{i,i+ℓ} (ℓ=1…k) 로 표현한다. - 텐서 네트워크는 MPS(행렬 곱 상태)와 MPO(행렬 곱 연산자) 형태로 변환되어, 오른쪽에서 왼쪽으로 순차적으로 수축한다(Fig. 2a, 2b). - 복잡도는 O(n·d^{2k+1}) 이지만, 각 S‑tensor가 O(d²) 개의 비제로 원소만을 가지므로 실제 연산량은 희소성을 활용해 크게 감소한다. 2. **행렬‑벡터 곱 방식 (희소 연산)** - 전체 비용을 희소 행렬 A 로 구성하고, 초기 상태 |ψ₀⟩ 에 대해 |ψ⟩ = e^{‑τA}|ψ₀⟩ 을 반복적인 Krylov‑subspace 혹은 Lanczos 방법으로 근사한다. - 이때 “Waterfall” 기법을 도입한다. 변수 x_i 를 결정할 때, 이미 확정된 변수들의 텐서를 완전 수축하지 않고, 해당 인덱스를 고정한 채 남은 텐서에만 부분 트레이스를 수행한다. 결과적으로 메모리 사용량이 O(d·k) 수준으로 억제된다. 두 구현 모두 시간·메모리 복잡도 분석을 제공한다. 4차 텐서 방식은 k 가 작고 d 가 작을 때 최적이며, 행렬‑벡터 방식은 n 이 매우 크고 k 가 중간 정도일 때 스파스 행렬 연산의 이점을 살린다. 실험에서는 제안된 두 구현을 기존 상용 최적화 솔버(CPLEX, Gurobi)와 비교하였다. 테스트 베드로는 n = 50 ~ 300 범위의 무작위 QUBO/QUDO 인스턴스와, k = 2 ~ 5 의 선형 체인 구조를 사용했다. 결과는 다음과 같다. - **시간**: n ≈ 200, k ≈ 3 ~ 5 인 경우, 제안 알고리즘이 평균 30 % ~ 45 % 빠른 실행 시간을 보였다. - **메모리**: Waterfall 기법을 적용한 행렬‑벡터 방식은 최대 1.2 GB 의 메모리 사용량을 유지했으며, 전통적인 텐서 수축 방식은 2 ~ 3 GB 까지 증가했다. - **정확도**: τ = 10 ~ 15 정도에서 대부분의 인스턴스가 최적 해와 동일한 비용을 얻었으며, τ를 늘릴수록 수렴이 보장되었다. 논문은 또한 알고리즘의 한계와 향후 연구 방향을 제시한다. τ 선택에 따른 수렴 속도와 수치 안정성 문제가 남아 있으며, 비선형 제약식이나 비정규화 비용을 포함한 일반적인 정수 프로그램으로 확장하는 것이 과제로 남는다. 또한, 현재 구현은 1‑차원 체인 구조에 최적화되어 있어, 2‑차원 격자나 임의 그래프에 대한 텐서 네트워크 설계가 필요하다. 결론적으로, 이 연구는 양자 영감 텐서 네트워크가 고전적인 조합 최적화 문제에 실용적인 대안을 제공할 수 있음을 실증한다. 특히 “Waterfall”와 같은 메모리 절감 기법은 대규모 변수 공간에서도 정확한 마진 계산을 가능하게 하여, 기존 메타휴리스틱 대비 경쟁력을 확보한다. 향후 양자‑고전 하이브리드 시스템이나 특수 하드웨어(예: GPU/TPU 기반 텐서 코어)와 결합한다면 더욱 큰 성능 향상이 기대된다.