분기한계 텐서 네트워크를 이용한 정확한 바닥상태 탐색

초록

본 논문은 전통적인 텐서 네트워크의 메모리 한계를 극복하고, 스핀 글라스와 최대 독립 집합 문제에서 정확한 바닥상태와 그 퇴보도를 계산하기 위해 분기‑한계(Branch‑and‑Bound) 전략을 텐서 네트워크 수축에 결합한 새로운 알고리즘인 BBTN(Branch‑and‑Bound Tensor Network)을 제안한다. 실험 결과, BBTN은 기존 최첨단 솔버들을 크게 앞서며, 2‑차원 ±J 스핀 글라스는 64×64, 킹 서브그래프의 MIS는 100×100 규모까지 정확히 해결한다.

상세 분석

본 연구는 텐서 네트워크(TN) 기반 최적화 방법이 직면한 근본적인 메모리·시간 복잡도 문제를 분기‑한계(B&B) 프레임워크와 결합함으로써 해결책을 제시한다. 기존의 ‘슬라이싱(slicing)’ 기법은 변수 집합 V_f 를 미리 선정해 2^{|V_f|}개의 서브 텐서 네트워크를 생성하고, 각각을 독립적으로 수축한다. 이 방식은 메모리 사용량을 감소시키지만, 고정된 변수 수가 늘어날수록 서브 텐서 수가 기하급수적으로 폭증해 전체 실행 시간이 비현실적인 수준으로 증가한다.

BBTN은 이러한 비효율성을 두 단계의 핵심 메커니즘으로 극복한다. 첫째, 프루닝(pruning) 단계에서 전역 상한(현재까지 발견된 최적 에너지)과 지역 하한(부분 텐서 네트워크 T_R 에 대한 경계 등가 원리 및 논리 추론 규칙)을 활용해, 에너지 하한이 전역 상한을 초과하는 모든 브랜치를 즉시 폐기한다. 이는 탐색 트리의 크기를 급격히 축소시키며, 특히 높은 퇴보도(degeneracy)를 갖는 스핀 글라스와 같이 해 공간이 희소한 경우에 큰 효과를 발휘한다.

둘째, 온라인 브랜칭(Online Branching, OB) 전략을 통해 변수 집합 R 에 대해 고정 변수 R_f 를 동적으로 선택한다. 전통적인 슬라이싱은 고정 변수 집합을 균등하게 분할하지만, OB는 현재 메모리 초과 정도 ρ(T) = max(0, log₂|T| – log₂T_target) 를 기준으로 브랜치 팩터 γ 를 최소화하도록 R_f 를 결정한다. 최적화된 브랜치 규칙은 γ·ρ(T) = Σ_i γ·ρ(T_i) 를 만족하도록 설계되어, 메모리 사용량을 목표 한계 이하로 유지하면서도 서브 텐서 수를 최소화한다.

알고리즘 흐름은 다음과 같다. (1) 초기 텐서 네트워크 T(G)를 구성하고, 현재 최적값을 무한대로 설정한다. (2) 현재 탐색 노드에 대해 가능한 변수 집합 R 를 선택하고, 프루닝을 통해 불필요한 구성들을 제거한다. (3) 남은 구성 집합 F(R) 를 기반으로 OB를 적용해 R_f 를 결정하고, 해당 변수들을 고정한 서브 텐서 네트워크들을 생성한다. (4) 각 서브 텐서에 대해 재귀적으로 동일 과정을 반복하며, 최종적으로 모든 리프 노드의 수축 결과를 합산해 전체 최적값 및 퇴보도를 얻는다.

실험에서는 두 가지 대표적인 문제군을 선택했다. 첫째, 2‑차원 및 3‑차원 ±J 스핀 글라스 모델은 에너지 함수 H(σ)=∑{(i,j)∈E} –J{ij}σ_iσ_j + ∑_{i∈V} –h_iσ_i 로 정의되며, 텐서 네트워크는 각 변수를 0/1 이진 인덱스로 매핑한 뒤, 최소합(min‑sum) 트로피컬 대수를 이용해 H* = min_σ H(σ) 를 표현한다. 둘째, 킹 서브그래프(KSG) 위의 최대 독립 집합(MIS) 및 가중 최대 독립 집합(MWIS) 문제는 제약을 무한대(∞) 텐서 원소와 가중치 텐서 w_i 로 모델링한다.

성능 평가에서 BBTN은 기존 슬라이싱 기반 TN, 전통적인 B&B, 그리고 상용 정수 계획 솔버 SCIP과 비교되었다. 2‑차원 ±J 스핀 글라스에서는 N=65(≈4225 변수)까지 정확히 해결했으며, 메모리 목표 2³¹ 바이트를 초과하지 않으면서도 실행 시간은 수분 수준에 머물렀다. 반면 슬라이싱은 N≈60에서 이미 수천 년에 해당하는 추정 시간이 필요했다. 3‑차원 격자와 무작위 정규 그래프에서도 BBTN은 동일하게 우수한 확장성을 보였다. MIS와 MWIS 문제에서는 N=100(≈10⁴ 변수)까지 해결했으며, SCIP 대비 평균 30배 이상의 속도 향상을 기록했다. 특히, MWIS를 인코딩한 구조화된 KSG(정수 인수분해 문제)에서도 BBTN은 몇 초 내에 최적 해를 찾았다.

이러한 결과는 BBTN이 (i) 메모리 사용량을 동적으로 제어하면서도 (ii) 탐색 트리를 비균등하게 구성해 불필요한 계산을 최소화하고, (iii) 트로피컬 텐서 수축의 고성능 GPU 구현을 그대로 활용한다는 점에서 기존 방법들을 근본적으로 뛰어넘는다는 것을 입증한다. 또한, 정확한 퇴보도 계산이 가능한 점은 물리학적 스핀 글라스의 복잡한 에너지 풍경 분석이나, 조합 최적화 문제의 해 공간 구조 연구에 새로운 도구를 제공한다.