단일층 변분 텐서 네트워크 프레임워크

초록

본 논문은 2차원 양자 격자 모델의 변분 지상 상태 계산을 위해, 중첩 텐서 네트워크(NTN) 기법과 자동 미분을 결합한 단일층 텐서 네트워크 프레임워크를 제안한다. 이 접근법은 기존 CTMRG 기반 방법에 비해 메모리와 연산 비용을 각각 3~4 차수 감소시켜, GPU 없이도 결합 차원 D=9까지 효율적으로 다룰 수 있다. 제안 방법을 정사각형 격자 반강자성 Heisenberg 모델과 Shastry‑Sutherland 모델에 적용해 정확한 에너지와 물리량을 얻었으며, 특히 Shastry‑Sutherland 모델에서 중간 단계의 빈 플라quette 밸런스 결합 고체(VBS) 상을 확인하였다.

상세 분석

이 연구는 2차원 텐서 네트워크 최적화에서 가장 큰 병목인 ‘이중층’ 구조를 단일층 중첩 구조로 전환함으로써, 메모리 사용량을 D⁸ → D⁶, 연산 복잡도를 D¹² → D⁹ 수준으로 크게 낮춘다. 핵심 아이디어는 ⟨Ψ|Ψ⟩와 같은 내적을 계산할 때 물리 인덱스를 별도의 차원으로 취급하지 않고, 물리 인덱스를 가상의 연결선으로 간주해 bra와 ket 텐서를 동일 레이어에 배치하는 것이다. 이를 위해 교차점마다 δ 함수의 직접곱인 X 텐서를 도입하고, 물리 인덱스를 포함한 Y 텐서를 정의해 사각 격자 형태를 유지한다. 결과적으로 결합 차원은 원래 D²가 아니라 D·d(물리 차원)로 제한돼, CTMRG와 같은 기존 수축 알고리즘을 그대로 적용할 수 있다.

자동 미분(AD)과의 결합도 중요한 혁신이다. 기존 변분 텐서 네트워크는 에너지와 그라디언트를 별도로 구현해야 했으며, AD를 적용하면 파라미터 X에 대한 미분을 프레임워크 내부에서 자동으로 수행한다. 다만 AD는 중간 텐서들을 모두 저장해야 하는 메모리 부담이 크는데, NTN을 사용해 중간 텐서의 차원을 크게 축소함으로써 실질적인 메모리 사용량을 D⁸ → D⁶ 수준으로 감소시켜, D=9 정도까지 GPU 없이도 최적화가 가능해졌다.

알고리즘 흐름은 다음과 같다. (1) 임의의 초기 PEPS 파라미터 X₀를 설정하고, NTN 기반 CTMRG를 이용해 ⟨Ψ|Ψ⟩와 ⟨Ψ|H|Ψ⟩를 계산해 에너지 E(X₀)를 얻는다. (2) PyTorch/Zygote와 같은 AD 프레임워크를 통해 E에 대한 파라미터 그라디언트 ∂E/∂X를 자동으로 구한다. (3) L‑BFGS 또는 Adam과 같은 1차 최적화 기법으로 파라미터를 업데이트해 X₁을 얻고, (1)~(3) 과정을 에너지 수렴까지 반복한다. 이때 자동 미분이 제공하는 정확한 그라디언트는 전통적인 수치 미분에 비해 높은 안정성과 빠른 수렴을 보인다.

실험적으로 저자들은 두 모델에 대해 D=9까지 확장했으며, Heisenberg 모델에서는 기존 연구와 일치하는 에너지 -0.66944와 장거리 반강자성 순서를 재현했다. Shastry‑Sutherland 모델에서는 J/J′≈0.7~0.8 구간에서 빈 플라quette VBS 상이 존재함을 명확히 확인했으며, 이는 이전 연구에서 제시된 복잡한 상전이 구조와 일치한다. 또한, 수렴 속도와 메모리 사용량을 정량적으로 분석해, 기존 CTMRG(D⁸ 메모리) 대비 약 100배 이상의 효율 향상을 입증했다.

이 프레임워크는 대칭 구현이나 GPU 가속 없이도 높은 차원의 텐서 네트워크를 다룰 수 있게 해, 향후 복잡한 2차원 양자 시스템(예: 강하게 좌절된 스핀 액체, 다중 밴드 전자계)에도 적용 가능성을 열어준다. 향후 개선점으로는 (i) 대칭(예: SU(2), U(1))을 텐서에 직접 적용해 차원을 추가로 절감, (ii) 더 효율적인 환경 차원 선택을 위한 적응형 CTMRG, (iii) 다중 GPU 혹은 분산 메모리 환경에서의 스케일링 등이 제시된다.