두 번째 정규화 텐서 네트워크 방법

초록

본 논문은 텐서 네트워크 상태를 다루는 새로운 두 번째 정규화 그룹(SRG) 기법을 제안한다. 기존 텐서 정규화 그룹(TRG)의 절단 오차를 크게 감소시켜, 고전 모델의 물리량과 양자 시스템의 기저 상태를 높은 정확도로 효율적으로 계산할 수 있다.

상세 분석

텐서 정규화 그룹(TRG)은 고차원 텐서를 반복적으로 블록화하고 차원을 축소함으로써 2차원 격자 모델의 자유 에너지 등을 계산하는 대표적인 방법이다. 그러나 TRG는 블록화 과정에서 주변 환경(environment) 정보를 무시하고 순수히 로컬 텐서만을 기준으로 SVD(특이값 분해)를 수행하기 때문에, 절단 차원을 제한했을 때 발생하는 절단 오차가 급격히 누적된다. 이러한 한계는 특히 임계점 근처나 강하게 상관된 양자 상태를 다룰 때 심각해진다.
본 논문에서 제안된 두 번째 정규화 그룹(SRG)은 이러한 환경 정보를 사전 계산하여, 각 블록화 단계에서 “환경 텐서”를 삽입함으로써 실제 시스템 전체에 대한 최적의 절단을 수행한다. 구체적으로, 먼저 기존 TRG와 동일하게 텐서를 결합하고 차원을 축소하지만, 이후에 주변 텐서와의 계약(contract)으로 얻어지는 환경 텐서를 이용해 새로운 유효 텐서를 재구성한다. 이 과정에서 최적화된 투영 연산자를 도입해 절단 차원을 유지하면서도 전체 시스템의 엔트로피 손실을 최소화한다.
알고리즘의 핵심은 (i) 환경 텐서의 효율적인 계산을 위해 반복적인 역전파와 순환적 업데이트를 사용하고, (ii) 절단 단계에서 고유값 분해 대신 변형된 SVD를 적용해 중요한 특이값을 보존하는 것이다. 계산 복잡도는 TRG와 동일한 O(χ³) 수준을 유지하면서도, 실제 수치 실험에서는 χ=812 정도만으로도 TRG 대비 10⁻⁴ 이하의 절단 오차를 달성한다.
논문은 2차원 이징 모델, 2차원 Heisenberg 모델, 그리고 PEPS(Projected Entangled Pair States) 형태의 양자 기저 상태에 SRG를 적용한 결과를 제시한다. 이징 모델에서는 임계 온도 근처에서 자유 에너지와 비자성자기화가 TRG 대비 23자리 정확도로 향상되었으며, Heisenberg 모델에서는 스핀 상관 함수와 에너지 기대값이 기존 최첨단 방법과 비교해 동일하거나 더 높은 정밀도를 보였다. 또한, PEPS 기반 양자 모델에서는 SRG를 이용해 최적화된 기저 상태를 얻음으로써, 변분 에너지와 엔트로피 측정에서 기존 변분 텐서 네트워크 방법보다 현저히 낮은 에너지 차이를 기록했다.
이러한 결과는 SRG가 텐서 네트워크의 전역적인 상관 구조를 효과적으로 포착함으로써, 절단 과정에서 발생하는 정보 손실을 최소화한다는 점을 입증한다. 또한, SRG는 기존 TRG와 호환되는 구조적 프레임워크를 유지하므로, 기존 코드와 파이프라인에 비교적 손쉽게 통합할 수 있다. 향후 고차원(3차원) 시스템이나 복잡한 토폴로지의 텐서 네트워크에도 동일한 원리를 적용할 수 있을 것으로 기대된다.