전이 행렬 양자 몬테카를로에서 임계 현상의 등장

초록

본 연구는 전이 행렬 전자구성 전역 상호작용(FCIQMC)과 그 변형인 이니시에이터 FCIQMC(i‑FCIQMC)의 워커 집단이 보이는 집단적 행동을 ‘부호 구조(order parameter)’를 통해 정량화한다. 시뮬레이션 결과, FCIQMC에서는 워커 수가 임계값을 초과할 때 부호가 급격히 정렬되는 2차 상전이가 나타나며, i‑FCIQMC에서는 초기 부호 혼합이 지속돼 부호 고정이 완만한 연속적 전이로 전환된다. 이러한 차이는 ‘사인 문제(sign problem)’의 근본 원인을 새로운 관점에서 조명한다.

상세 분석

FCIQMC는 스테이시스 방정식의 해를 확률적 워커 집단으로 표본화하는 방법으로, 워커는 전자구성 기저 상태에 대한 부호와 진폭을 동시에 보유한다. 이때 부호 구조는 전체 파동함수의 위상 정보를 담고 있으며, 부호가 무작위로 뒤섞이면 평균값이 소멸해 사인 문제가 발생한다. 저자들은 부호 정렬 정도를 측정하는 스칼라 오더 파라미터 S = (1/N)∑_i σ_i · sgn(c_i) 를 정의하였다. 여기서 σ_i는 워커 i의 부호, c_i는 해당 기저의 정확한 계수 부호이며, N은 전체 워커 수이다. S=1이면 완전 부호 정렬, S=0이면 완전 무작위를 의미한다.

시뮬레이션에서는 전자수와 오비탈 수가 증가함에 따라 워커 수 N에 대한 S의 변화가 급격히 비선형적으로 전이함을 확인했다. 특히, FCIQMC에서는 임계 워커 수 N_c 근처에서 S가 0에서 1로 급격히 상승하는 ‘2차 상전이’를 보였으며, 이는 전통적인 임계 현상에서 관측되는 연속적 전이와 유사하다. 임계점 근처에서 플럭투에이션(분산)도 최대가 되며, 이는 워커 간 상관성이 급증함을 시사한다.

반면 i‑FCIQMC은 초기 단계에서 ‘이니시에이터’ 기준을 적용해 작은 기저에만 워커를 허용함으로써 부호 혼합을 억제한다. 그러나 이 방법은 부호 정렬이 완전하게 이루어지지 않아 S가 0과 1 사이의 중간값에 머무른다. 즉, i‑FCIQMC에서는 부호 고정이 연속적인 ‘크로스오버’ 형태로 진행되며, 임계점이 흐릿해진다. 이는 사인 문제를 완화하지만, 정확한 FCI 해와의 차이를 남긴다.

이러한 결과는 사인 문제의 근본 원인이 워커 집단의 집단적 상호작용, 즉 부호 정렬을 위한 ‘자기 조직화(self‑organization)’ 과정에 있음을 보여준다. 임계 현상이 나타나는 FCIQMC에서는 충분히 많은 워커가 상호작용하면서 부호가 전역적으로 일관되게 정렬되고, 이는 정확한 파동함수 재구성을 가능하게 한다. 반면 i‑FCIQMC은 초기 제한으로 인해 이러한 전역 정렬이 억제돼, 사인 문제는 감소하지만 완전한 정밀도는 확보하지 못한다.

결론적으로, 부호 구조를 정량화하는 오더 파라미터는 FCIQMC와 i‑FCIQMC 사이의 근본적인 동역학 차이를 명확히 드러내며, 임계 현상과 연관된 워커 수, 플럭투에이션, 상관성 분석이 사인 문제 해결 전략을 설계하는 데 중요한 지표가 될 수 있음을 제시한다.