다중행렬식 파동함수의 효율적 계산법: 물 분자 에너지 예측

초록

**
본 논문은 양자 몬테카를로(QMC) 시뮬레이션에서 다중슬래터-자스트로 파동함수(Multi‑Slater‑Jastrow)를 효율적으로 다루는 알고리즘을 제시한다. 역행렬 하나와 한 번의 행렬‑곱으로 모든 전자·홀 excitations를 처리해 계산 복잡도를 O(n² + n_s n + n_e) 로 낮추고, 메모리 사용량도 최소화한다. 구현 결과 물 분자에 대한 기저 상태 에너지를 기존 단일행렬식 대비 높은 정확도로 얻었다.

**

상세 분석

**
이 논문은 양자 몬테카를로(QMC) 방법, 특히 변분 몬테카를로(VMC)와 고정노드 확산 몬테카를로(FNDMC)에서 사용되는 파동함수의 품질이 최종 에너지 정확도에 결정적인 영향을 미친다는 점을 출발점으로 삼는다. 전통적인 Slater‑Jastrow 형태는 하나의 Slater 행렬식에 Jastrow 인자를 곱한 형태로, 구현이 간단하고 O(n²) 의 비용으로 전자 이동에 대한 비율과 그라디언트를 계산할 수 있다. 그러나 다중참조(multireference) 문제가 심한 시스템에서는 단일 행렬식만으로는 충분한 상관효과를 포착하기 어렵다. 따라서 다중행렬식의 선형 결합인 Multi‑Slater‑Jastrow(MS‑J) 형태가 필요하지만, 기존 구현은 각 행렬식마다 역행렬을 저장·업데이트해야 하므로 O(n_e n²) 라는 비현실적인 비용이 발생한다.

저자들은 이 문제를 “단일 역행렬 + 테이블 기반 전자·홀 교환” 전략으로 해결한다. 핵심 아이디어는 (1) 기준(reference) 행렬식의 역행렬 M⁻¹₀만을 유지하고, (2) 모든 excited‑state 행렬식은 기준 행렬식에서 몇 개(k) 의 열만 교체된 형태라는 점을 이용한다. 각 MC 스텝에서 전자가 이동하면 기준 행렬식은 한 행만 바뀌므로 Sherman‑Morrison 공식을 통해 O(n²) 안에 M⁻¹₀와 det(M₀)를 업데이트한다. 이후, 교체될 열(g₁…g_k)과 새로 들어오는 가상 궤도(e₁…e_m) 사이의 내적을 k·m 번 수행해 T 테이블을 만든다. 이 테이블의 원소 T_{ij}=g_i⁻¹·e_j는 O(n) 비용의 내적이므로 전체 비용은 O(k m n)=O(n_s n) 이다. 여기서 n_s는 가능한 단일 excitations 수이며, 일반적인 화학 계산에서 k와 m은 수십 정도에 불과해 메모리와 시간 모두 효율적이다.

다음 단계는 T 테이블에서 필요한 원소들을 추출해 r×r (r≤k) 소행렬식의 행렬식을 계산하는 것이다. r이 1~3 정도이면 determinant 계산은 O(r³) 로 무시할 수 있다. 따라서 모든 다중행렬식 비율을 구하는 전체 복잡도는 O(n²) + O(n_s n) + O(n_e) 로, 단일 행렬식 비용에 비해 선형적인 추가 비용만 발생한다. 메모리 측면에서는 기준 역행렬(n×n)과 전자‑궤도 값((n+m)·n), 그리고 T 테이블(n_s) 정도만 저장하면 되며, 전체 메모리 요구량은 O(n² + (m+n)n + n_s + n_e) 로, 현대 슈퍼컴퓨터 환경에서 충분히 감당 가능하다.

알고리즘의 장점은 (i) 구현이 단순해 기존 QMC 코드에 최소한의 수정만으로 삽입 가능하고, (ii) 행렬식 비율 계산에 재귀 트리나 복잡한 데이터 구조가 필요 없으며, (iii) 각 스텝마다 독립적인 연산이 많아 MPI/OpenMP 기반 병렬화에 최적화된다. 논문은 또한 기존 문헌