QR 기반 CTMRG로 벌집 격자 iPEPS 시뮬레이션 효율화

초록

본 논문은 벌집 격자의 C₃ᵥ 대칭을 활용한 QR 기반 코너 전이 행렬 재규격화 그룹(CTMRG) 알고리즘을 제안한다. 기존 SVD‑기반 CTMRG 대비 차원 축소 단계에서 QR 분해를 이용함으로써 연산량을 크게 줄이고, 스핀‑½ Heisenberg 및 Kitaev 모델에 대한 벤치마크에서 동일하거나 더 높은 정확도를 유지하면서 10배 가량의 속도 향상을 달성한다. 또한 Kitaev‑Heisenberg 모델의 양자 스핀 액체 단계에서 dimer‑dimer 상관함수가 1/r⁴로 보편적으로 감소함을 수치적으로 확인한다.

상세 분석

이 연구는 iPEPS(무한 projected entangled‑pair state) 를 벌집 격자에 적용할 때 가장 큰 병목 현상인 텐서 네트워크 수축을 효율화하는 새로운 CTMRG 프레임워크를 제시한다. 핵심 아이디어는 벌집 격자의 고유 대칭군 C₃ᵥ(3‑fold 회전 및 반사 대칭)를 전 단계에서 명시적으로 이용해 텐서의 구조를 대칭 하위공간에 투사하고, 이를 기반으로 QR 분해를 수행한다는 점이다. 기존 SVD 혹은 EVD 기반 방법은 확대된 코너 텐서를 χD×χD 크기의 행렬로 변환한 뒤 특이값 또는 고유값을 계산해야 하는데, 이는 차원 D와 환경 차원 χ가 커질수록 O((χD)³) 의 복잡도를 초래한다. 반면 QR 기반 접근은 확대된 코너 텐서를 χD×χ 형태로 재구성하고, QR 분해를 통해 단위 행렬 Q를 직접 차원 축소 연산자 P 로 사용한다. Q는 직교성을 보장하므로 트렁케이션 과정에서 수치적 안정성을 유지하면서도, QR 알고리즘이 BLAS‑Level‑3 연산에 최적화되어 있어 GPU 가속에 매우 유리하다. 결과적으로 연산량이 O((χD)²) 로 감소하고 메모리 사용량도 크게 절감된다.

알고리즘 구현에서는 먼저 두 개의 3‑leg 텐서를 4‑leg 텐서로 매핑해 효과적인 사각형 패치를 만든 뒤, 60° 각도 섹터를 선택해 C₃ᵥ 대칭을 복제한다. 이렇게 구성된 섹터는 전통적인 CTMRG 절차와 동일하게 코너와 에지 텐서를 반복적으로 업데이트하지만, 프로젝터 P 를 얻는 단계에서 QR 분해를 적용한다. 또한, Hermiticity가 보존된 코너 텐서를 이용해 QR 분해가 수학적으로 정당함을 증명하고, 대칭성에 의해 발생하는 중복 자유도를 제거해 효율을 극대화한다.

벤치마크에서는 스핀‑½ Heisenberg 모델의 항진자기 에너지와 스터거드 자화, 그리고 Kitaev 모델의 에너지와 상관 길이를 비교한다. QR 기반 CTMRG는 동일한 χ와 D 조건에서 SVD 기반 방법보다 약 8‑10배 빠르게 수렴했으며, 최종 물리량은 QMC 결과와 차이가 10⁻⁴ 이하로 매우 정확했다. 특히, 높은 차원 D (예: D=12)와 큰 환경 차원 χ (예: χ=200)에서도 메모리 초과 없이 계산이 가능했다.

마지막으로 Kitaev‑Heisenberg 모델의 양자 스핀 액체 영역에서 dimer‑dimer 상관함수를 측정했으며, 거리 r 에 대한 로그‑로그 플롯이 기울기 -4 를 보이는 1/r⁴ 감소를 명확히 확인했다. 이는 순수 Kitaev 모델에서 이론적으로 예측된 보편적 거동이며, Heisenberg 상호작용이 약간 존재해도 이 거동이 유지됨을 보여준다.

전반적으로 이 논문은 QR 기반 CTMRG가 벌집 격자와 같은 비정사각형 구조에도 성공적으로 적용될 수 있음을 증명하고, 대칭을 활용한 텐서 축소가 계산 효율과 수치 안정성을 동시에 향상시킬 수 있음을 보여준다. 향후 다른 비정형 격자(예: 삼각형, 사다리꼴)에도 동일한 원리를 확장할 가능성을 열어준다.